TikTokは、誤情報の拡散を防ぐため、外部プラットフォームからアップロードされたAI生成コンテンツにラベルを付け始める。

「AIは信じられないような創作の機会をもたらしますが、視聴者がコンテンツがAIによって生成されたことを知らない場合、混乱や誤解を招く可能性があります」とTikTokは木曜日の声明で述べた。「ラベル付けはこの背景を明確にするのに役立ちます。そのため、当社はTikTokのAIエフェクトを使用して作成されたAIGC（AI生成コンテンツ）にラベルを付け、1年以上にわたりクリエイターに本物のAIGCにラベルを付けるよう求めてきました」

TikTokのポリシー変更は、テクノロジー業界がAI利用に対するさらなる保護措置を提供するための広範な取り組みの一環である。

今年2月、Metaは業界パートナーと協力して、AIツールで生成された画像をより簡単に識別し、最終的には動画や音声の識別にも拡大するための技術基準を策定していると発表した。その時点で、FacebookやInstagramのユーザーはAI生成画像のラベルを目にすることになる。

Googleは昨年、AIラベルをYouTubeやその他のプラットフォームで導入すると述べていた。

TikTokに関しては、コンテンツ出典・信頼性連合（Coalition for Content Provenance and Authenticity）と協力し、そのコンテンツクレデンシャル技術を活用している。

TikTokによると、この技術はメタデータをコンテンツに添付し、そのメタデータを利用してAI生成コンテンツを即座に識別しラベル付けする。同社はすでに画像や動画にこの技術を導入し始めており、将来的には音声のみのコンテンツにも適用する予定だと述べている。

今後数ヶ月のうちに、TikTok上のコンテンツにはコンテンツクレデンシャルが添付され、ダウンロード後もコンテンツに残る。これにより、TikTokで作成されたAI生成素材を識別し、コンテンツがいつ、どこで、どのように作成または編集されたかを人々が理解するのに役立つ。コンテンツクレデンシャルを採用する他のプラットフォームも、これらのコンテンツを自動的にラベル付けできるようになる。

「コンテンツクレデンシャルを、合成メディアを視聴者に直接識別し伝える手段として使用することは、AIの透明性に向けた重要な一歩であり、典型的な透かし技術よりもはるかに意味があります」と、AIパートナーシップ組織のAI・メディア誠実性プロジェクト責任者クレア・レイボウィッツ氏は声明で述べた。「同時に、ユーザーがこれらのラベルにどのように反応するかをよりよく理解する必要があり、TikTokがフィードバックを報告し、AIがますます普及する世界で一般の人々がどのように対応するかをよりよく理解できることを期待しています」

TikTokは、コンテンツクレデンシャルを実践に移した初めての動画共有プラットフォームであり、Adobe主導のコンテンツ真正性イニシアチブに参加し、業界全体でのクレデンシャル採用を推進すると述べている。

TikTokのこれまでのポリシーは、ユーザーにAIで生成または大幅に編集されたコンテンツにラベルを付けるよう促すものだった。また、ユーザーには実際の画像、音声、動画を含むすべてのAI生成コンテンツにラベルを付けるよう求めていた。

これについて、TikTokのオペレーション・トラスト・セーフティ責任者アダム・プレッサー氏は海外メディアの取材に対し、「人々が何が事実で何が虚構かを理解できるようにしたい」と述べている。