Google, AI 회사는 아들의 자살에 대해 어머니가 제기 한 소송에 직면해야한다고 미국 법원은 말합니다.

수요일 연방 판사는 인공 지능 회사가 챗봇이 제 1 차 수정안에 의해 보호된다는 주장을 거부했다. Carac

판사의 명령은 법률 전문가가 말한 바에 따라 인공 지능에 대한 최신 헌법 테스트 중 하나입니다.

이 소송은 플로리다의 어머니 인 메간 가르시아 (Megan Garcia)의 어머니에 의해 제기되었으며, 14 살짜리 아들 세웰 세제 3 세는 캐릭터에 희생되었다고 주장했다.

Garcia의 변호사 중 하나 인 Tech Justice Law 프로젝트의 Meetali Jain은 판사의 명령은 실리콘 밸리가“제품을 시장에 출시하기 전에 가드 레일을 멈추고 생각하고 부과해야한다”는 메시지를 보냈다고 말했다.

Carac 이 기술은 전문가가 경고 한 내용에도 불구하고 직장, 시장 및 관계를 빠르게 재구성하기 때문에 미국과 그 밖의 법률 전문가와 AI 감시자의 관심을 끌었습니다.

플로리다 대학교의 법학 교수 인 Lyrissa Barnett Lidsky는“이 명령은 AI와 관련된 몇 가지 광범위한 문제에 대한 잠재적 인 시험 사례로 명시되어있다”고 말했다.

이 소송은 그의 생애 마지막 달에 봇과의 성적인 대화에 참여하면서 현실에서 점점 더 격리 된 것으로 주장했다. 그의 마지막 순간에, 봇은 Setzer에게 그를 사랑하고 십대에게“가능한 한 빨리 집으로 돌아 오라고”촉구했다. 메시지를받은 순간, Setzer는 법적 신고에 따라 스스로를 쐈습니다.

성명서에서, 캐릭터 대변인은 성명서에서 아동을위한 가드 레일과 소송이 제기 된 날에 발표 된 자살 예방 자원을 포함하여 회사가 구현 한 여러 안전 기능을 지적했습니다.

성명서는“우리는 사용자의 안전에 대해 깊이 관심을 갖고 있으며 우리의 목표는 매력적이고 안전한 공간을 제공하는 것입니다.

개발자의 변호사들은 챗봇이 첫 번째 수정안 보호를받을 자격이 있다고 말하면서 사건을 기각하기를 원하며, 그렇지 않으면 판결은 AI 산업에“냉담한 영향”을 가질 수 있습니다.

수요일에 그녀의 명령에서, 미국 고위 지방 판사 인 앤 콘웨이 (Anne Conway) 판사는 피고인의 언론의 자유 청구 중 일부를 거부하면서 챗봇의 생산량이“이 단계에서”연설을 구성한다고“준비되지 않았다”고 말했다.

Conway는 캐릭터 기술이 사용자의 첫 번째 수정 권리를 주장 할 수 있다는 것을 알게되었습니다. 그녀는 또한 Garcia가 Google이 캐릭터 개발을 돕는 역할에 대해 책임을 질 수 있다는 주장으로 발전 할 수 있다고 결정했습니다.

Google 대변인 José Castañeda는“우리는이 결정에 강력하게 동의하지 않습니다. “Google과 캐릭터 AI는 완전히 분리되어 있으며 Google은 캐릭터 AI 앱 또는 구성 요소 부분을 생성, 디자인 또는 관리하지 않았습니다.”

Lidsky는 소송이 어떻게 진행 되더라도이 사건은“우리의 정서적, 정신 건강을 AI 회사에 맡기는 위험”에 대한 경고라고 말합니다.

“소셜 미디어와 생성 AI 장치가 항상 무해한 것은 아니라는 것은 부모에게 경고입니다.”라고 그녀는 말했습니다.

___ KATE PAYNE은 AP 통신/보고서 미국 주립 하우스 뉴스 이니셔티브의 군단 회원입니다. 보고서는 미국 뉴스 룸에 언론인을 배치하여 비영리 문제에 대해보고하는 비영리 국가 서비스 프로그램입니다.