Metaは、2023年9月に、AI生成とラベル付けされたAIキャラクターをFacebookやInstagramで導入した。しかし、そのAIキャラクターはユーザーからの批判と嘲笑を受け、最終的に撤回されることとなった。このAIキャラクターの試験運用は、MetaのAI戦略における重要な一歩であったはずだったが、見込み通りの結果を産まなかったようだ。
Metaは、生成AIを活用したキャラクターやチャットボットの導入を通じて、ユーザー体験を大きく変えようと考えたようだった。これらのAIキャラクターは、セレブリティのAIチャットボットと同時にリリースされ、「ユニークな興味や個性」を持つ存在として設計されていた。
例えば、あるAIキャラクターは「hellograndpabrian」というハンドルネームを持ち、「学び続ける退職した実業家」として描かれていた。また、「datingwithCarter」というAIキャラクターは「デートコーチ」という設定で、ユーザーに恋愛アドバイスを提供する役割を担っていた。しかし、これらのAIキャラクターは数カ月間ほとんど更新されず、注目を集めることはなかった。
その状況が一変したのは、Metaの生成AI担当者のインタビューがFinancial Timesに掲載された後だった。彼は、AI生成キャラクターが今後「通常のアカウントと同様に」人々と交流し、サービスに統合されることを説明した。この発言により、AIキャラクターに関する議論が起こり、多くのユーザーがその質や目的をネット上で批判して、炎上に発展した。
その批判の例は、AIキャラクター「Liv」だ。Instagramで「黒人で性的マイノリティで2人の子供を持つ母親であり、真実を語る者」として自己紹介していた、このキャラクターは、ワシントン・ポストのコラムニストによる検証で問題視された。このコラムニストは、「Liv」を質問攻めにして、その回答の齟齬を炙り出している。
この批判に対して、Metaは「Liv」は、主に白人からなるMetaのAI開発チームが創り上げ、また性格設定が人気テレビドラマの「Modern Family」のキャラクターに由来するとしたため、さらに批判が起こった。「Modern Family」は、白人家族のドラマだ。このように、文化的配慮の欠如による黒人の性格設定や性的マイノリティを浅い既成概念から創り上げた失敗だったということだろう。AIで生成されていたとしても、そのようなステレオタイプな造形は批判を招くという典型のような話だ。
さらに、これらのAIキャラクターはブロックできないという技術的な不具合も発生した。Metaはこの問題を「バグ」と説明し、影響を受けたアカウントを削除することで対応したが、こうした対応は「そもそも導入の目的や実行計画が曖昧だったのではないか」という批判を増幅させた。
Metaは今回の失敗を受けてAIキャラクター戦略を撤回したものの、AIを活用したコンテンツ生成の取り組みを完全に放棄したわけではない。同社は、AIが生成した画像や動画をユーザーのフィードに挿入する実験を進めている。また、クリエイターが自らのAIチャットボットをトレーニングし、フォロワーとの対話を自動化するツールの提供にも注力している。
具体的にMetaが取り組んでいるAI戦略は下記の３つだ。
- クリエイター向けAIクローン機能の開発
- フィード内でのAI生成コンテンツの段階的な導入
- より自然な形でのAIと人間のインタラクション実現
これは、生成AIで自動的にコンテンツが投稿され消費され続けることで、広告収入が見込まれるからだと思われる。
しかし、今回の試験運用が示すように、AIキャラクターの導入には技術的、倫理的、文化的な課題が山積している。AIがどのように開発され、誰がそのプロセスに関与しているのかという透明性の確保、ユーザーとの信頼関係の構築、そしてコンテンツの品質向上が求められる。
AI技術が進歩しているとは言え、誰もが納得できるような人格形成や受け答えを生成できるまではもう少し時間がかかるということが、この騒ぎの教訓だろう。
