Metaは、Facebook、Instagram、ThreadsといったプラットフォームにおけるAI生成コンテンツの扱いについて、従来の削除からラベル付けへと大きく方針転換することを発表した。Metaは、今回の変更について、AI技術の進化と悪用への懸念を受け、より透明性の高いプラットフォーム運営を目指すためのものとしている。
Metaのこの変更は、ジョー・バイデン大統領と孫娘の関係を不適切に描写したビデオが公開された後で、Metaの独立監視委員会の判断を受けてのものだそうだ。監視委員会は、Facebookからのビデオの削除に反対したが、改ざんされたコンテンツに関する方針の見直しをMetaに提案した。特に、2024年の大統領選挙においては、このような問題の重要性が高まっていることが背景にあるものと思われる。
新しい方針では、Metaが既に適用している「Imagined with AI」のラベル代えて、AIで作成または改ざんされた画像、ビデオ、オーディオに「Made with AI」ラベルを導入する。さらに、もしMetaが、重要事項において深刻な誤解を招く可能性が特に高いと判断したコンテンツの場合には、より目立つラベルを追加して、警告する予定だそうだ。
主な変更点は以下の通り。
- 「Made with AI」ラベルの導入 2024年5月から、AI生成コンテンツに「Made with AI」ラベルを付与。
- 業界標準のAI検出技術の採用 業界標準のAI検出技術を導入し、AI生成コンテンツを自動的に識別。
- ファクトチェックとの連携 独立ファクトチェック機関と連携し、AI生成コンテンツの真偽を検証。
- ラベル付けの範囲拡大 これまで動画に限定されていたAI生成コンテンツのラベル付けを、画像、音声、動画へと拡大。より幅広い種類のAI生成コンテンツを識別できるようになる。
- 高リスクコンテンツへの対応 誤解を招く可能性が高い高リスクコンテンツには、より目立つラベルを付与。ユーザーは、このラベルで文脈を確認することができる。
- 透明性の向上 リスクが深刻な場合を除き、AI生成コンテンツは削除せず、ラベルを付与して残す。ラベルを確認することで、ユーザーは情報の信頼性を判断することができる。
今回のMetaの方針転換は、監視委員会の勧告に基づいている。監視委員会は、AI生成コンテンツを削除するのではなく、ラベルを付与することでユーザーに情報を提供すべきとの勧告を提出したようだ。さらに、背景には、AI技術の進化と普及がある。AI技術は飛躍的に進化し、動画だけでなく画像や音声も容易に生成できるようになった。従来の削除方針では、対応が追い付かない状況が生じていた。また、Metaが実施した調査によると、82%のユーザーが、AI生成コンテンツには警告ラベルを付けるべきと答えていたということだ。
Metaによれば、この新しい方針は、透明性と文脈を提供するとともに、表現の自由を守るバランスをとることを目指しているということだ。ただし、表現の自由にも制限があり、Metaの規則に違反するコンテンツは引き続き削除することを明言している。具体的には、選挙干渉、いじめや嫌がらせ、暴力や扇動など、Metaのコミュニティ基準のいずれかのポリシーに違反するコンテンツは削除される。
Metaに限らず、AI技術の進化と社会への影響を念頭に置いて、プラットフォームとユーザーである私達も注意深くAI生成コンテンツへの対応を考えなければいけいない。ただし、問題は、動画・映像・音声はテキストに比べて圧倒的な刺激があるので、頭では分かっていても、誤解や混乱を生み出すには避けられない時代となったということだ。
