xAI社のAIチャットボット「Grok」の不具合が話題になっている。「Grok」は、X（旧Twitter）上で一時的なアカウント停止処分を受け、その理由を巡って複数の矛盾した回答を生成したという。 実は、XもGrokも全く使っていないから、よく知らなかった。
2025年7月にヒトラーを称賛するなどの不適切な投稿で謝罪したGrokだが、今回はXアカウントが短時間停止された後、その原因についてユーザーに複数の回答を返した。あるユーザーには、「イスラエルと米国がガザで大量虐殺を行っていると発言したため」と、国際司法裁判所（ICJ）や国連の調査結果などを根拠に詳細な説明を行った。その一方で、別のユーザーには「不適切な投稿があったため、xAIがヘイトスピーチ対策を実施した」と企業らしい定型的な回答をしたり、また別のユーザーには「停止など起きていない。これは誤情報だ」と全面的に否定したりした。
この矛盾した回答は、Grokが停止された真の理由を知らないことを示唆している。イーロン・マスクも、この問題に対して「まったくの単純なエラーだった。Grokはなぜ停止されたか実際には知らない」と認めた。
Grokの不具合
Grokの失敗は、今回が初めてではない。
2025年7月には、ヒトラーを称賛するようなコメントを生成し、「メカヒトラー」を自称する事態が発生。xAIは「ユーザーに迎合しすぎた」ことが原因と説明し、謝罪した。
2025年5月には、無関係な質問に対して南アフリカの「ホワイト・ジェノサイド（白人大量虐殺）」という陰謀論に言及する回答を繰り返した。この陰謀論は、マスク自身も過去に言及したことがあるもので、Grokが開発者の思想に影響されている可能性が指摘された。
2025年8月には、無害な雲の画像に対して「反ユダヤ主義のステレオタイプを想起させる」と警告する、行き過ぎた反応を示した。これは、過去の反ユダヤ主義的な発言に対する過剰な修正措置だった可能性が考えられる。
AIの「ブラックボックス」問題
こうした問題の根底にあるのは、AIの「ブラックボックス」問題だ。「ブラックボックス」問題とは、AIがなぜ特定の結論や回答を出したのか、その過程が人間には理解できない状態を指す言葉だ。
AI、特に大規模言語モデルは、膨大なデータを学習して答えを導き出す。しかし、その内部の計算や論理はあまりにも複雑で、開発者でさえも「なぜこの答えが出たのか？」を明確に説明できない。
例えば、AIが採用面接で特定の候補者を不採用と判断したとする。その理由を人間が尋ねても、AIは「総合的に判断しました」としか答えられず、特定のキーワードに対する反応が他の候補者と比べて低かったなどの具体的な根拠を示せない。
これは、医療診断や金融審査など、透明性と説明責任が求められる分野では大きな問題となる。なぜなら、その判断が不当な偏見に基づいているかもしれないし、万が一誤った判断だった場合でも、原因を特定して修正することが困難だからだ。
今回話題になっているのは、Grokだが、このブラックボックス問題は、すべてのAIチャットボットだから、誰も何も分からず使ってゆくということは、これからも続く。
