先週、OpenAI とGoogleは、どちらもAIのアップデートを発表し、まさにAI戦争というような感じだ。両者のプレゼンテーションは、どちらも驚くようなAの機能の進化でシンギュラリティの日も近いかと思わせる。
しかし、早速問題も起こっている。OpenAIのスカーテット・ヨハンセン問題は、単に広報上の失策だが、Googleの問題は、中心事業の検索にも影響が出て深刻だ。
Googleは過去数年で最大の検索エンジンの変更を発表し、新しいAI機能を導入した。これは、ChatGPTのブームでOpenAIに追いつくための試みとして、検索に組み込まれて、質問に答える新技術だ。しかし、このAIを使った新機能は誤情報やエラーを生み出し、Googleにとって大きな問題となっている。
Googleの新機能「AI Overview」は、多くの不正確な情報を生成し、ユーザーの信頼を損なう結果となったとネット上では大騒ぎだ。例えば、ピザのレシピに接着剤を使用するよう推奨したり、栄養素を得るために一日に一個の石を摂取するよう勧めたりしたそうだ。これらの誤情報はSNSで大炎上中で、Googleに対する批判が高まっている。
AI Overviewの不正確な回答は、20億人以上が利用する検索エンジンに対する信頼を損なってしまった。他のAIチャットボットも誤情報を提供することがあるが、Googleは、検索という多くの人が信頼して使っているGoogle検索でも問題だから深刻だ。本来なら、安全にAIを検索に統合する必要がある。だが、Googleも検索分野でOpenAIと戦う必要がある。だから、AI Overviewを急いで検索に組み込む必要があったのだろう。
GooleのAIに限らないが、AIはハルシネーションが大きな問題だ。Gooleも新しいAI機能が発表するたびに問題が発生しており、2023年2月に発表されたチャットボット「Bard」でも宇宙に関する誤情報が共有され、Googleの株価は1000億ドル下落した。
2024年2月、GoogleはBardの後継として「Gemini」を発表した。これはマルチモーダルで画像生成や音声操作のデジタルアシスタントとして機能するチャットボットだ。しかし、Geminiも大きな問題を起こして大きな話題となった。例えば白人の画像を生成しない問題や歴史的人物の不正確な描写などが発覚した。
今回のAI Overviewの誤情報は、例えばピザソースに接着剤を混ぜるとか、石を1日1個摂取するなどの奇妙なアドバイスを提供した。これらの情報は、古いSNSの投稿や風刺サイト「The Onion」から引き出されたものだったそうだ。さらに、AIは洗濯機の洗浄に塩素漂白剤と酢を同時に使用するよう指示しましたが、これは有害な塩素ガスを発生させる危険があるそうだ。AIが学習しているネット上のガラクタ情報によって、このような問題のある回答をしてしまうようだ。
AI Overviewは、検索エンジンの結果をAIが生成する新たな方法を試みているが、AIがガラクタ情報から誤情報やエラーを生成することが問題だ。AIはネット上の大量のデータから学習するため、誤った情報や風刺的な投稿も含まれてしまう。このため、AIが生成する情報の信頼性を高めるためには、正確な情報を提供する情報を集めてデータを整理するという作業が必要不可欠だろう。たぶんGoogelもAIの学習に大量の人間を雇用して回答を人間で確認して、AIにフィードバックしているのだろうが追いついていないのだと思われる。
GoogleのAI機能の導入は、OpenAIとMicrosoftの連合軍やその他のAIスタートアップ企業との間でユーザー争奪のために競争力を維持するために必要不可欠だが、誤情報の拡散による信頼性の低下は重大な問題だ。莫大な利益を生み出す検索事業に大きな影響を与えかねない。今後、GoogleはAI技術の精度を高め、ユーザーの信頼を取り戻すための取り組みを強化する必要があるだろう。
