TikTokは5月9日、他のプラットフォームで作成されたAI生成コンテンツに対し、自動的にラベル付けを行うと発表した。これにより、ユーザーがOpenAIのDALL·E 3などのサービスで作成したコンテンツをTikTokに投稿すると、自動的に「AI-generated」のラベルが付与され、AIで作成されたコンテンツであることが視聴者にひと目でわかるようになる。
TikTokがこれを実現できるのは、MicrosoftとAdobeが共同設立したCoalition for Content Provenance and Authenticity (C2PA)のContent Credentials技術を導入するからだ。Content Credentialsは、コンテンツに特定のメタデータを付与し、TikTokがAI生成コンテンツを即座に認識してラベル付けできるようにするものだ。Content Credentialsの訳語は現時点では不明だが「コンテンツ認証」とでも訳すのだろうか。
TikTokはすでに、TikTokの生成AIで作成されたコンテンツにはラベルを付けているが、今後はContent Credentialsを導入した他のプラットフォーム（OpenAIのDALL·E 3やMicrosoftのBing Image Creatorなど）で作成されたコンテンツにもラベルを付けるようになる。
Content Credentialsについては、MicrosoftとAdobeに加え、Googleもサポートを表明しているために、今後は、業界標準となってゆくのかもしれない。問題は、すべてのAI開発事業者の参加とその精度ということになるだろう。
今後数ヶ月の間に、TikTokは、TikTokのプラットフォーム上でTikTok AIエフェクトを使用して作成されたAI生成コンテンツにもContent Credentialsを付与していく予定だそうだ。それの方が先にできても良さそうだが、直ぐにではない点が不思議だ。
Content Credentialsのメタデータには、AI生成コンテンツがどこでどのように作成または編集されたかの詳細が含まれ、ダウンロード時にもコンテンツに残る。Content Credentialsを採用する他のプラットフォームは、コンテンツがAI生成であることを自動的にラベル付けできるようになる。これは、すべての生成AI開発事業者が参加することで有効になる。果たしてそうなるか。
TikTokは、Content Credentialsを実装する最初の動画共有プラットフォームである。Metaも2月に、コンテンツの出所を追加するためのC2PAのソリューションを構築する計画を発表しているので、これからは生成AI技術による偽情報やフェイクニュースに対して一定の効果があるものと思われる。
TikTokは今回の発表で、選挙における生成AI技術による偽情報と戦うことを約束し、ラベルの有無に関わらず、有害な誤解を招くAI生成コンテンツを固く禁じるポリシーを掲げた。
TikTokのAIラベル付けの取り組みは、米国の2024年大統領選挙を控え、オンライン上のデマ情報の蔓延に対する懸念が高まる中で行われる。Metaは2月、FacebookとInstagramでAI生成画像にラベルを付ける計画を発表。YouTubeも昨年11月、アーティストの声を模倣したAI生成の動画の削除をレコード会社が要求できるガイドラインを導入している。
今後、他のプラットフォームもContent Credentialsの採用を進めることで、ユーザーはAI生成コンテンツを識別しやすくなり、オンラインの信頼性が高まることが期待される。
