1608TikTok이 외부 플랫폼에서 업로드된 AI 생성 콘텐츠에 라벨을 부착하기 시작하여 허위 정보 확산을 막을 예정입니다.
"인공지능은 놀라운 창작 기회를 제공하지만, 시청자가 콘텐츠가 AI로 생성되었다는 사실을 모르면 혼란을 주거나 오해를 불러일으킬 수 있습니다,"라고 TikTok은 목요일 성명에서 밝혔습니다. "라벨링은 이러한 맥락을 명확히 하는 데 도움이 됩니다. 그래서 우리는 TikTok AI 효과로 제작된 AIGC(AI 생성 콘텐츠)에 라벨을 붙이고 있으며, 1년 넘게 크리에이터에게 실제 AIGC를 표시하도록 요구해 왔습니다."
TikTok의 정책 변화는 기술 업계가 AI 사용에 대한 더 많은 보호 조치를 제공하려는 광범위한 노력의 일환입니다.
올해 2월, Meta는 업계 파트너와 협력하여 AI 도구로 생성된 이미지를 더 쉽게 식별할 수 있는 기술 표준을 개발 중이며, 궁극적으로 비디오 및 오디오 식별로 확장할 것이라고 발표했습니다. 그때가 되면 Facebook과 Instagram 사용자는 AI 생성 이미지 라벨을 보게 될 것입니다.
Google은 작년에 YouTube 및 기타 플랫폼에서 AI 라벨이 도입될 것이라고 밝혔습니다.
TikTok은 또한 콘텐츠 출처 및 진정성 연합(Coalition for Content Provenance and Authenticity)과 협력하여 콘텐츠 자격 증명 기술을 사용하고 있습니다.
TikTok은 이 기술이 콘텐츠에 메타데이터를 첨부한 다음, 이 메타데이터를 사용하여 AI 생성 콘텐츠를 즉시 식별하고 라벨을 붙일 수 있다고 밝혔습니다. 또한 이미지와 비디오에 이 기술을 배포하기 시작했으며, 향후 순수 오디오 콘텐츠에도 적용할 것이라고 덧붙였습니다.
앞으로 몇 달 안에 TikTok의 콘텐츠에는 콘텐츠 자격 증명이 첨부되며, 다운로드 후에도 콘텐츠에 유지됩니다. 이는 TikTok에서 제작된 AI 생성 자료를 식별하고, 사람들이 콘텐츠가 언제, 어디서, 어떻게 제작 또는 편집되었는지 이해하는 데 도움이 됩니다. 콘텐츠 자격 증명을 사용하는 다른 플랫폼도 이러한 콘텐츠를 자동으로 라벨링할 수 있습니다.
"콘텐츠 자격 증명을 시청자에게 합성 미디어를 직접 식별하고 전달하는 방법으로 사용하는 것은 AI 투명성을 향한 중요한 단계이며, 일반적인 워터마크 기술보다 더 의미가 있습니다."라고 인공지능 파트너십 조직의 AI 및 미디어 진정성 프로젝트 책임자인 클레어 라이보위츠(Claire Leibowicz)는 성명에서 밝혔습니다. "동시에, 우리는 사용자가 이러한 라벨에 어떻게 반응하는지 더 잘 이해해야 하며, TikTok이 피드백을 보고하여 대중이 점점 더 AI가 강화되는 세상에 어떻게 대응하는지 더 잘 이해할 수 있기를 바랍니다."
TikTok은 콘텐츠 자격 증명을 실제로 적용한 최초의 비디오 공유 플랫폼이라고 밝히며, Adobe가 주도하는 콘텐츠 진정성 이니셔티브에 참여하여 업계 내 자격 증명 채택을 추진할 것이라고 덧붙였습니다.
TikTok의 기존 정책은 사용자가 AI로 생성되거나 대규모로 편집된 콘텐츠에 라벨을 붙이도록 장려하는 것이었습니다. 또한 사용자가 실제 이미지, 오디오 및 비디오를 포함한 모든 AI 생성 콘텐츠에 라벨을 붙이도록 요구했습니다.
이에 대해 TikTok 운영 및 신뢰 안전 책임자인 Adam Presser는 외신과의 인터뷰에서 "사람들이 사실과 허구를 이해할 수 있도록 보장하고 싶습니다."라고 말했습니다.
