Elon Musk의 xAI, 옷을 벗은 것으로 추정되는 미성년자 Grok의 아동 포르노 소송에 직면

Elon Musk의 회사 xAI는 자사의 AI 모델이 식별 가능한 미성년자의 모욕적인 성적 이미지를 생성하도록 허용한 것에 대해 책임을 져야 한다고 세 명의 익명의 원고가 월요일 캘리포니아 연방 법원에 제기한 소송에서 주장했습니다.

세 명의 원고는 Grok에 의해 성적인 콘텐츠로 변형된 미성년자의 실제 이미지를 가진 사람을 대표하는 집단 소송을 제기하기를 원합니다.그들은 xAI가 이미지 모델이 실제 사람과 미성년자를 묘사하는 포르노를 생성하는 것을 방지하기 위해 다른 개척 연구소에서 사용하는 기본적인 예방 조치를 취하지 않았다고 주장합니다.

x.AI Corp.와 x.AI LLC를 상대로 Jane Doe 1, 미성년자 Jane Doe 2, 미성년자 Jane Doe 3 사건이 미국 캘리포니아 북부지방법원에 제기되었습니다.

다른 딥러닝 이미지 생성기는 일반 사진에서 아동 포르노가 생성되는 것을 방지하기 위해 다양한 기술을 사용합니다.소송에서는 xAI가 이러한 표준을 채택하지 않았다고 주장합니다.

특히, 모델이 실제 이미지에서 누드나 에로틱한 콘텐츠를 생성하도록 허용하는 경우, 아동이 등장하는 성적인 콘텐츠를 생성하는 것을 방지하는 것은 사실상 불가능합니다.성적인 이미지를 생성하고 실제 사람을 헐렁한 의상으로 묘사하는 Grok의 능력에 대한 머스크의 공개 홍보는 슈트에 크게 등장합니다.

회사는 TechCrunch의 의견 요청에 응답하지 않았습니다.

원고 중 한 명인 Jane Doe 1은 고등학교 동창회 사진과 옷을 입지 않은 모습을 묘사하기 위해 Grok이 변경한 앨범을 가지고 있었습니다.인스타그램에서 그녀에게 연락한 익명의 정보 제공자는 사진이 온라인에 유포되고 있다고 말하고 그녀와 그녀가 학교에서 알아본 다른 미성년자의 성적인 이미지가 포함된 Discord 서버 링크를 보냈습니다.