YouTube, 정치인, 정부 관료, 언론인을 위한 AI 딥페이크 탐지 범위 확대
2026. 3. 10. 오후 11:00:37 · 예상 읽기 5분
간략 요약
YouTube의 AI 딥페이크 감지 도구는 정치인, 언론인, 공무원이 사용할 수 있게 되어 승인되지 않은 유사 항목을 삭제 대상으로 신고할 수 있게 되었습니다.
상세 요약
유튜브는 AI로 생성된 딥페이크를 식별하는 유사성 감지 기술을 정부 관료, 정치 후보자, 언론인으로 구성된 파일럿 그룹으로 확장한다고 화요일 발표했습니다. 파일럿 그룹의 구성원은 승인되지 않은 AI 생성 콘텐츠를 감지하고 YouTube 정책을 위반한다고 판단되는 경우 삭제를 요청할 수 있는 도구에 액세스할 수 있습니다.
이 기술 자체는 이전 테스트에 이어 작년에 YouTube 파트너 프로그램에 참여하는 약 400만 명의 YouTube 제작자를 대상으로 출시되었습니다.
사용자가 업로드한 동영상에서 저작권으로 보호되는 자료를 감지하는 YouTube의 기존 Content ID 시스템과 유사하게 유사성 감지 기능은 AI 도구로 만든 시뮬레이션된 얼굴을 찾습니다. 이러한 도구는 정치인이나 기타 정부 관료와 같은 유명 인사의 딥페이크 페르소나를 활용하여 AI 동영상에서 실제 생활에서는 하지 않았던 말과 행동을 하기 때문에 잘못된 정보를 퍼뜨리고 현실에 대한 사람들의 인식을 조작하는 데 때때로 사용됩니다.
새로운 파일럿 프로그램을 통해 YouTube는 사용자의 표현의 자유와 공인의 설득력 있는 모습을 생성할 수 있는 AI 기술과 관련된 위험 사이의 균형을 맞추는 것을 목표로 합니다.
유튜브의 정부 업무 및 공공 정책 담당 부사장인 레슬리 밀러(Leslie Miller)는 화요일 출시에 앞서 언론 브리핑에서 "이번 확장은 실제로 공개 대화의 무결성에 관한 것입니다."라고 말했습니다. "우리는 AI 사칭의 위험이 특히 시민 공간에 있는 사람들에게 높다는 것을 알고 있습니다. 그러나 우리는 이 새로운 보호막을 제공하는 동시에 이를 사용하는 방법에도 주의를 기울이고 있습니다."라고 그녀는 말했습니다.
이미지 출처:YouTube
Miller는 요청 시 검색된 모든 일치 항목이 제거되지는 않을 것이라고 설명했습니다. 대신 YouTube는 기존 개인정보취급방침 가이드라인에 따라 각 요청을 평가하여 해당 콘텐츠가 표현의 자유로 보호되는 패러디인지 정치적 비평인지 판단합니다.
회사는 개인의 목소리와 시각적 유사성을 무단으로 재현하기 위해 AI를 사용하는 것을 규제하는 D.C.의 NO FAKES 법에 대한 지원을 통해 연방 차원에서도 이러한 보호를 옹호하고 있다고 언급했습니다.
새로운 도구를 사용하려면 자격을 갖춘 파일럿 테스터는 먼저 셀카와 정부 발급 신분증을 업로드하여 신원을 증명해야 합니다. 그런 다음 프로필을 만들고, 표시되는 일치 항목을 보고, 선택적으로 삭제를 요청할 수 있습니다. YouTube는 궁극적으로 콘텐츠 ID 시스템의 작동 방식과 유사하게 위반 콘텐츠가 게시되기 전에 업로드를 방지하거나 해당 동영상으로 수익을 창출할 수 있는 기능을 사람들에게 제공할 계획이라고 밝혔습니다.
회사는 초기 테스터에 어떤 정치인이나 공무원이 포함될 것인지는 밝히지 않았지만 시간이 지남에 따라 이 기술을 널리 사용할 수 있게 만드는 것이 목표라고 말했습니다.
이미지 출처:YouTube
이러한 AI 비디오에는 이와 같은 라벨이 지정되지만 이러한 라벨의 배치는 일관되지 않습니다. 일부의 경우 라벨이 동영상 설명에 표시되는 반면, 보다 '민감한 주제'에 초점을 맞춘 동영상은 동영상 전면에 라벨을 적용합니다. 이는 YouTube가 모든 AI 생성 콘텐츠에 취하는 접근 방식과 동일합니다.
YouTube의 크리에이터 제품 담당 부사장인 Amjad Hanif는 레이블 배치에 대해 "AI로 제작되는 콘텐츠가 많지만 실제로 그 구별은 콘텐츠 자체에 중요하지 않습니다."라고 설명했습니다. 그는 "AI로 제작한 만화일 수도 있다. 그래서 눈에 잘 띄는 면책조항을 적용할 수 있는 카테고리인지 판단이 있어야 한다고 생각한다"고 말했다.
YouTube는 현재 제작자가 딥페이크 감지 기술을 통해 이러한 종류의 AI 딥페이크 제거 작업을 얼마나 많이 처리했는지 공유하지 않지만, 지금까지 제거된 콘텐츠의 양은 '매우 적다'고 언급했습니다.
Hanif는 "많은 [크리에이터]가 무엇이 생성되고 있는지에 대한 인식일 뿐이라고 생각합니다. 하지만 실제로 삭제 요청의 양은 실제로 매우 적습니다. 왜냐하면 대부분의 요청이 상당히 순조롭거나 전체 비즈니스에 추가되는 것으로 밝혀졌기 때문입니다."라고 Hanif는 말했습니다.
정부 관료, 정치인, 언론인을 대상으로 한 딥페이크의 경우에는 그렇지 않을 수도 있습니다.
조만간 YouTube는 인식 가능한 음성 및 인기 캐릭터와 같은 기타 지적 재산을 포함하여 더 많은 영역에 딥페이크 감지 기술을 적용할 계획입니다.
Sarah는 2011년 8월부터 TechCrunch의 기자로 근무했습니다. 그녀는 이전에 ReadWriteWeb에서 3년 이상 근무한 후 회사에 합류했습니다. 기자로 일하기 전에 Sarah는 I.T.에서 근무했습니다. 은행, 소매, 소프트웨어 등 다양한 산업 분야에 걸쳐 있습니다.
sarahp@techcrunch.com으로 이메일을 보내거나 Signal의 sarahperez.01에서 암호화된 메시지를 통해 Sarah에게 연락하거나 지원 활동을 확인할 수 있습니다.
약력 보기