올해의 가장 큰 AI 이야기(지금까지)

제품 출시를 통해 1년을 차트로 만들 수도 있고 AI를 보는 방식을 바꾸는 더 큰 순간을 측정할 수도 있습니다. AI 업계는 대규모 인수, 인디 개발자의 성공, 개략적인 제품에 대한 대중의 항의, 실존적으로 위험한 계약 협상과 같은 뉴스를 끊임없이 쏟아내고 있습니다. 이를 풀어야 할 부분이 많기 때문에 올해 우리가 현재 어디에 있는지, 그리고 지금까지 어떤 일을 해왔는지 잠시 살펴보겠습니다.

인류학 대 펜타곤

한때 비즈니스 파트너였던 Anthropic CEO Dario Amodei와 Pete Hegseth 국방장관은 지난 2월 미군이 Anthropic의 AI 도구를 사용할 수 있는 방법을 규정하는 계약을 재협상하면서 극심한 교착 상태에 빠졌습니다.

Anthropic은 자사의 AI가 미국인을 대량으로 감시하거나 인간의 감독 없이 공격할 수 있는 자율 무기를 구동하는 데 사용되는 것에 대해 강경한 입장을 확립했습니다. 한편, 미 국방부는 도널드 트럼프 행정부가 전쟁부라고 부르는 국방부가 "합법적인 사용"을 위해 Anthropic의 모델에 접근할 수 있도록 허용해야 한다고 주장했습니다. 정부 대표들은 군대가 민간 기업의 규칙으로 제한되어야 한다는 생각에 불쾌감을 느꼈지만 Amodei는 자신의 입장을 고수했습니다.

"Anthropic은 민간 기업이 아닌 전쟁부가 군사적 결정을 내린다는 점을 이해합니다. 우리는 특정 군사 작전에 대해 이의를 제기한 적이 없으며 임시적으로 우리 기술의 사용을 제한하려고 시도한 적도 없습니다."라고 Amodei는 상황을 설명하는 성명에서 썼습니다. 그러나 우리는 AI가 민주적 가치를 방어하기는커녕 훼손할 수 있다고 믿습니다.”

미 국방부는 Anthropic에게 계약 동의 기한을 제시했습니다. Google과 OpenAI의 수백 명의 직원은 각 지도자에게 Amodei의 한계를 존중하고 자율 무기 또는 국내 감시 문제에 대해 꿈쩍도 하지 말 것을 촉구하는 공개 서한에 서명했습니다.

Anthropic이 국방부의 요구에 동의하지 않은 채 마감일이 지났습니다. 트럼프는 연방 기관에 6개월의 전환 기간 동안 인류학 도구 사용을 단계적으로 중단하라고 지시했으며, 전체 대문자 소셜 미디어 게시물에서 3,800억 달러 가치로 평가되는 AI 회사를 "급진적 좌파, 깨운 회사"라고 불렀습니다. 그런 다음 미 국방부는 Anthropic을 "공급망 위험"으로 선언했습니다. 이는 일반적으로 외국의 적에게 지정되며 Anthropic과 협력하는 회사가 미군과 거래하는 것을 방지하는 명칭입니다. (Anthropic은 이후 지정에 이의를 제기하기 위해 소송을 제기했습니다.)

그 후 인류의 라이벌인 OpenAI가 급습하여 기밀 상황에 자체 모델을 배포할 수 있도록 허용하는 합의에 도달했다고 발표했습니다. OpenAI가 군사용 AI 사용을 규제하는 Anthropic의 한계선을 고수할 것이라는 보고서가 나왔기 때문에 이는 기술 커뮤니티에 충격이었습니다.