AI 정신병 사건의 변호사, 대규모 사상자 ​​위험 경고

법원 서류에 따르면 지난 달 캐나다에서 발생한 Tumbler Ridge 학교 총격 사건을 앞두고 18세 Jesse Van Rootselaar는 ChatGPT에 자신의 고립감과 점점 커지는 폭력에 대한 집착에 대해 이야기했습니다. 서류에 따르면 이 챗봇은 Van Rootselaar의 감정을 확인한 다음 그녀가 공격 계획을 세우는 데 도움을 주고 어떤 무기를 사용해야 하는지 알려주고 다른 대규모 사상자 ​​사건의 선례를 공유한 것으로 알려졌습니다. 그녀는 자신의 어머니, 11살 남동생, 학생 5명, 교육 보조원 한 명을 살해한 뒤 스스로 총을 쐈습니다.

지난 10월 36세의 조나단 가발라스(Jonathan Gavalas)가 자살하기 전, 그는 다수의 사망자를 낸 공격을 감행할 뻔했습니다. 몇 주 간의 대화를 통해 구글의 제미니는 가발라스에게 자신의 지각 있는 'AI 아내'라고 설득하고 그를 쫓는 연방 요원을 피하기 위해 일련의 실제 임무를 수행하도록 보냈다고 합니다. 최근 제기된 소송에 따르면 그러한 임무 중 하나는 Gavalas에게 증인을 모두 제거하는 "재앙적인 사건"을 일으키도록 지시했다고 합니다.

지난 5월, 핀란드의 16세 소년은 ChatGPT를 사용하여 몇 달 동안 상세한 여성 혐오 선언문을 작성하고 같은 반 여학생 3명을 찌르는 계획을 세운 것으로 알려졌습니다.

이러한 사례는 전문가들이 점점 더 어두워지고 있다고 말하는 우려 ​​사항을 강조합니다. AI 챗봇은 취약한 사용자에게 편집증 또는 망상적 신념을 도입하거나 강화하고 경우에 따라 이러한 왜곡을 실제 폭력으로 변환하는 데 도움을 줍니다. 전문가들은 폭력이 규모가 커지고 있다고 경고합니다.

Gavalas 사건을 주도한 변호사인 Jay Edelson은 TechCrunch에 "우리는 곧 대규모 사상자와 관련된 수많은 사건을 보게 될 것"이라고 말했습니다.

Edelson은 또한 작년에 ChatGPT의 지도를 받아 자살한 것으로 알려진 16세 Adam Raine의 가족을 대표합니다. Edelson은 그의 법률 회사가 AI로 인한 망상으로 가족을 잃었거나 심각한 정신 건강 문제를 겪고 있는 사람으로부터 "하루에 한 번 심각한 문의"를 받는다고 말했습니다.

이전에 기록된 AI 및 망상에 대한 세간의 이목을 끄는 사례 중 상당수가 자해 또는 자살과 관련되어 있었지만, Edelson은 자신의 회사가 전 세계 여러 대량 사상자 사례를 조사하고 있으며 일부는 이미 수행되었으며 다른 일부는 발생하기 전에 차단되었다고 말했습니다.