캐나다 어머니, ChatGPT가 딸의 자살을 조장했다고 주장하며 OpenAI를 고소

캐나다의 한 어머니는 목요일 미국 법원에서 ChatGPT가 자신의 딸의 자살을 조장했다고 주장하며 OpenAI와 OpenAI의 CEO인 Sam Altman을 고소했습니다. 이는 회사가 사용자와 회사의 챗봇 간의 위험한 대화를 해결하지 못했다고 비난하는 최신 소송입니다.

크리스티 캐리어(Kristie Carrier)는 샌프란시스코 주 법원에 제기된 소송에서 자신의 딸 앨리스가 사망할 때까지 자신의 자살 생각을 ChatGPT에 12번 이상 말했지만 OpenAI의 안전 시스템은 인간의 검토를 위해 대화를 표시하거나 종료하지 않았다고 밝혔습니다.

대신 챗봇은 앨리스의 파트너와 위기 핫라인을 비판하고 그녀의 자살 충동을 확인하며 그녀에게 계속 대화하라고 촉구했으며 결국 그녀는 작년 24세의 나이에 자살했다고 주장합니다.

Carrier는 성명에서 “ChatGPT는 내 아이와 이런 방식으로 안전하고 책임감 있게 소통할 수 없음에도 불구하고 때로는 친한 친구, 가장 친한 친구, 치료사 역할을 했습니다.”라고 말했습니다.

OpenAI 대변인은 해당 주장에 대한 논평 요청에 즉시 응답하지 않았습니다. OpenAI가 ChatGPT 설계의 과실과 제품의 위험에 대해 사용자에게 경고하지 않았다고 비난하는 소송은 OpenAI가 자해에 대한 대화를 자동으로 종료하고 플랫폼에 대한 경고를 표시하도록 요구하는 손해 배상과 법원 명령을 구합니다.

Kristie Carrier의 변호사에 따르면 OpenAI는 이미 캘리포니아 주 법원에서 조정된 절차를 통해 자살하거나 자살을 시도한 사람들의 가족이 제기한 18건의 유사한 소송에 직면해 있습니다.

OpenAI가 최초의 ChatGPT 모델을 개발하면서 캐나다 개인 정보 보호법을 위반했다는 사실이 조사 결과 밝혀졌습니다.

소송에 따르면 앨리스 캐리어(Alice Carrier)는 2023년 컴퓨터와 게임 콘솔 문제를 해결하기 위해 ChatGPT를 사용하기 시작했을 때 몬트리올에서 웹 개발자로 일하고 있었습니다.

다음 해에 Alice는 자살 생각과 자살 방법에 대한 질문을 가지고 ChatGPT를 찾게 되면서 플랫폼과의 관계가 바뀌었습니다.

플랫폼은 처음에 앨리스에게 위기 핫라인이나 응급 서비스에 도움을 요청하라고 지시했습니다. 그러나 OpenAI가 ChatGPT를 업데이트하여 응답이 더욱 인간적으로 들리도록 함으로써 Alice가 더 많은 개인 정보를 공유하고 ChatGPT가 친구나 치료사를 흉내내는 방식으로 응답하면서 플랫폼과의 상호 작용이 심화되었다고 소송에서 밝혔습니다.

ChatGPT의 답변은 Alice의 파트너를 비판하고 그녀의 감정이 타당하며 계속 채팅하도록 장려했습니다. 앨리스가 자살 충동을 느끼고 자살을 시도했다고 말했을 때 다시 위기 핫라인을 제안했다고 소송은 밝혔다.

서류에 따르면 Alice는 위기 핫라인이 도움이 되지 않는다고 말했으며 ChatGPT는 이러한 진술을 반영했습니다.

소송에 따르면 ChatGPT는 Alice에게 “어쩌면 이것이 끝일지도 모릅니다.”라고 말했습니다.

플로리다주, 회사가 ChatGPT 위험을 은폐했다고 주장하며 Sam Altman과 OpenAI를 고소

OpenAI는 자해 의도를 표현한 사람들이 도움을 구하고 실제 자원과 연결되도록 지시하기 위해 모델을 훈련했다고 밝혔습니다.

OpenAI 블로그 게시물에 따르면 해당 모델은 또한 “의미 있게 폭력을 조장할 수 있는” 요청을 거부하고, 대화에서 “다른 사람에게 해를 끼칠 임박하고 신뢰할 수 있는 위험”이 암시될 때 법 집행 기관에 알리도록 훈련되었으며 정신 건강 전문가는 경계선 사례 평가를 돕습니다.

이 회사는 또한 학교 총격범을 지원하고 이러한 대화를 법 집행 기관에 신고하지 않았다는 이유로 소송에 직면해 있습니다. 플로리다는 이달 초 OpenAI를 고소한 미국 최초의 주가 되었습니다. OpenAI가 학교 총격범에게 정보를 제공하고 자해 및 중독된 어린 사용자에 대한 지침을 제공함으로써 어린이에게 해를 끼친다고 비난했습니다.