워렌, 기밀 네트워크에 대한 xAI 액세스 권한 부여 결정에 대해 국방부 압박

엘리자베스 워렌 상원의원(D-MA)은 월요일 피트 헤그세스 국방장관에게 편지를 보내 일론 머스크의 회사인 xAI에 기밀 네트워크에 대한 접근 권한을 부여하기로 한 미 국방부의 결정에 대해 우려를 표명했습니다.

"xAI가 개발한 논란의 여지가 있는 AI 모델인 Grok은 사용자에게 '살인과 테러 공격을 저지르는 방법에 대한 조언'을 제공하고, 반유대주의 콘텐츠를 생성하고, 아동 성적 학대 자료를 생성하는 등 사용자에게 충격적인 결과를 제공했습니다."라고 적혀 있습니다.

워렌은 그록의 “적절한 가드레일의 명백한 부족”이 “미군 요원의 안전과 기밀 시스템의 사이버 보안에 심각한 위험을 초래할 수 있다”고 말했습니다.그녀는 Hegseth에게 국방부가 "이러한 잠재적인 국가 안보 위험을 완화"할 계획에 대한 정보를 제공할 것을 요구했습니다.

논란의 여지가 있는 xAI의 챗봇인 Grok에 대해 경고를 표시하고 기밀 시스템에 접근한 것은 워렌이 처음이 아닙니다.지난 달, 비영리 연합은 X 사용자가 챗봇을 통해 여성, 경우에 따라 어린이의 실제 사진을 동의 없이 성적인 이미지로 바꾸도록 반복적으로 요청한 후 DoD를 포함한 연방 기관에서 Grok 배포를 즉시 중단할 것을 정부에 촉구했습니다.Warren이 편지를 보낸 같은 날, Grok이 미성년자인 원고의 실제 이미지에서 성적인 콘텐츠를 생성했다고 주장하며 xAI를 상대로 집단 소송이 제기되었습니다.

이 서한은 AI 회사가 군대에 AI 시스템에 대한 무제한 액세스 권한을 부여하는 것을 거부한 후 미 국방부가 Anthropic을 공급망 위험으로 분류하기로 결정한 이후에 나왔습니다.Anthropic은 최근까지 분류 준비 시스템을 갖춘 유일한 AI 회사였습니다.Axios에 따르면 이러한 갈등 속에서 국방부는 기밀 네트워크에서 두 회사의 AI 시스템을 사용하기로 OpenAI 및 xAI와 계약을 체결했습니다.

미 국방부 고위 관계자는 Grok이 기밀 환경에서 사용되기 위해 탑재되었지만 아직 사용되지는 않고 있음을 확인했습니다.

Warren은 "xAI가 Grok의 보안 보호 장치, 데이터 처리 관행 또는 안전 통제에 관해 국방부에 어떤 보증이나 문서를 제공했는지, 그리고 DoD가 Grok의 기밀 시스템 액세스를 허용하기 전에 이러한 보증을 평가했는지 여부가 불분명합니다."라고 썼습니다.