Metaは、今後数年間でAIによって生成されたキャラクターが、FacebookやInstagramといった同社のプラットフォーム上に溢れるようになると予想しているのだそうだ。30億人ものユーザーを抱えるMetaにとって、このAIキャラクターをプラットフォームに賑やかしに使おうとしているように思える。とんでもないことだ。
Metaは、ユーザーがInstagramやFacebook上でAIキャラクターを作成できるツールをはじめ、様々なAI製品を展開している。これらのAIキャラクターは、単なるデジタルなbotではない。プロフィール画像やバイオグラフィーを持ち、AIによって生成されたコンテンツをプラットフォーム上で共有する、まるで人間のユーザーのような存在になることを見込んでいるそうだ。と言っても、当然のことに人間ではない。
Metaの生成AI部門担当者は、Financial Timesの取材に対し、「これらのAIは、将来的にプラットフォーム上でアカウントと同じように存在するようになるでしょう」と語ったという。恐ろしい悪夢の世界だ。
すでにMetaのAIキャラクター作成ツールは、7月の米国での公開以降、数十万ものキャラクターを生み出しているそうだ。現状では、多くのユーザーがこれらのキャラクターを非公開にしているが、今後、AIキャラクターがソーシャルメディア上で活躍する日もそう遠くないのかもしれない。
Metaは、今後2年間でInstagramやFacebookを「より楽しく、魅力的なものにする」ことを優先事項として掲げており、AIとのインタラクションをよりソーシャルにする方法を検討しており、AIキャラクターは、まさにこの目標を達成するための重要な要素として考えているという。
現在のところ、多くのクリエイターはMetaのAIツールを、写真の編集など、現実世界のコンテンツをより良く見せるために利用している。しかし、Metaは、テキストから動画を生成するソフトウェアを来年クリエイターに公開するなど、AIの活用範囲をさらに広げようとしているのだそうだ。
しかし、AIが生成したコンテンツには、誤情報の拡散など、リスクも伴う。Metaは、AIが生成したコンテンツには明確なラベルを付けるべきだとするルールを設けているが、例外もあり得るし、AIキャラクターが悪用される可能性は十分にあり得る。
また、AIキャラクターがプラットフォーム上に低品質なコンテンツを大量に生成し、人間のクリエイターの作品の価値を下げてしい、ユーザーの信頼を損なってしまうのではないか、といった懸念もある。
Metaは、AIキャラクターがソーシャルメディアの未来を大きく変える可能性を秘めていると言っているが、botが生成するコンテンツを楽しむ世界は悪夢でしかない。
しかも、AI技術の進化は速く、AIキャラクターが社会に与える影響はまだ未知数だ。どのような問題が引き起こされるのか誰にも分からない。問題発生・拡散機になるかもしれないようなAIキャラクターを野に放つようなことはやめてもらいたい。
