AI関連の企業がニュースは切れ目なく続く。新サービスや機能の高度化の話が多いが、問題や混乱が相次いで発生していることも多く報じられていっる。今朝、目についたテイラー・スウィフトの新アルバムプロモーション映像のAI生成疑惑や、デロイトがオーストラリア政府に提出したレポートで440万豪ドルの返金を一部返金を余儀なくされた事案は、氷山の一角に過ぎないだろう。
テイラー・スウィフトの映像AI生成疑惑
テイラー・スウィフトの新アルバム『The Life of a Showgirl』のプロモーションで実施されたファン参加型のデジタル・スカベンジャーハント（宝探し）キャンペーンが物議を醸した。この企画はGoogleと連携して行われ、ファンが世界の12都市に散りばめられた場所を巡ってQRコードを見つけ、動画などの限定コンテンツを解禁するもの。しかし、キャンペーン映像に、手が重なっていたり書籍の文字が抜け落ちているなどの不自然なAI生成特有の違和感が確認できるという指摘がファンの間で相次ぎ、AIで生成された疑惑が広がった。
ファンは、テイラー・スウィフトの作品やプロモーションには本来作り手のこだわりや人間的な温度が感じられるべきだとして、AIへの過度な依存・安易な利用に強く反発。AIを使って、面白い映像を効率的に制作することはできるが、常に使って良いかどうかの判断が必要ということのようだ。
デロイトのオーストラリア政府向けAIハルシネーション混入レポート
コンサル大手デロイトがオーストラリア政府雇用・職場関係省（DEWR）から依頼され提出したレポートに、AIによる重大なミスが複数発覚する事件も報じられた。このレポートは公共システムの適正審査にかかるもので、報告書の内容にAIが生成した虚偽の参考文献や存在しない判例、でっち上げの教授引用などが含まれていた。何というお粗末さか。最終的にデロイトは事実を認めてレポートを訂正版に差し替えた。政府も信頼失墜を問題視し、デロイトは契約金の一部を返金した。AI利用では、ハルシネーションをまず疑えという原則を大手コンサルでも行っていないということだ。
これまでも、同様のAI活用の失敗がいくつも報道されている。
コカ・コーラ 完全にAIで生成されたクリスマス広告を展開した結果、「魂のない」「創造性の欠如」として消費者から厳しい批判を受けた。、5,600万回以上の再生を記録したにも関わらず、ブランドイメージに深刻な打撃を与えました。
マンゴー 広告でのAIモデル事件では、ファッションブランドが製品の動画にAI生成モデルを使用したところ、顧客から「服も着用しているモデルも実在しないのなら、一体何を売っているのか」との指摘を受け、信頼性が揺らいだ。
エアカナダ チャットボット誤情報事件が起きた。AIチャットボットが存在しない割引制度について誤った情報を提供し、裁判で敗訴。企業がAIの責任を逃れようとしたものの、法廷は「企業はウェブサイト上のすべてのコンテンツに責任を負う」と判断した。
シボレー チャットボット操作事件が起きた。顧客がチャットボットを操作して2024年型シェビー・タホを1ドルで購入する契約を成立させるなど、AIの脆弱性が露呈した。
日本企業でも、社名は明らかになっていないが、2024年に大手製造企業が生成AI利用により3,000件の顧客個人情報が漏洩し、500名以上による集団訴訟に発展、5億円以上の賠償責任を負う事態となったと報道された。
AI活用に伴う炎上パターン
AI活用の炎上には3つの主要パターンが見られる。
- 不自然さによる違和感：機械的な表現や不適切なレスポンスが消費者の不快感を誘発
- 業界背景への理解不足：映画レビューサイト「フィルマークス」がハリウッドのクリエイター保護ストライキ中にAI広告を展開し批判を浴びた事例のように、文脈無視が問題となった
- 真正性・信頼性の欠如：実在しない人物の起用や偽の情報提供により「騙された」という感情を消費者に与えた
AI活用の成功事例
一方で、適切にAI技術を活用した成功事例も存在する。シャープは故・松田優作氏をAI技術で復活させ、高精細3DCGと組み合わせてAQUOS R9のブランドアンバサダーとして起用。完成度の高さと話題性で大きな注目を集めた。
日本コカ・コーラの「Create Real Magic」施策では、画像生成AIツールを一般公開し、消費者がクリスマスカード作成に参加できる仕組みを構築。AIをコスト削減ツールではなくクリエイティブの拡張手段として活用した点が評価されている。
AIをマーケティングを含む業務で活用することから発生する問題は単なる技術的失敗にとどまらず、企業の信頼の根幹を揺るがす深刻なリスクとして認識すべきだろう。消費者の50%以上がAI生成コンテンツに警戒感を抱く現状において、企業にはAI技術導入の慎重な検討と配慮が求められている。
