信頼とは、積み上げるには数年かかるが、崩れるのは一瞬だ。今、OpenAIが直面しているのは、まさにその「一瞬」の危機かもしれない。
これまで話し相手だったChatGPTが、ある日突然、軍事監視網の一部に組み込まれるとしたらどうだろうか。その居心地の悪さが、いまネット上で燃え広がる「QuitGPT（ChatGPTをやめろ）」運動の正体だ。
事の発端は、OpenAIのCEOサム・アルトマンが発表した、米国防総省との新たな契約にある。機密ネットワーク上でのAIモデル展開を認めるこの合意は、表向きには「安全への深い敬意」と「最良の結果」を謳っている。しかし、X（旧Twitter）などのネット上の反応は冷ややかだ。彼らがアルトマンの言葉に見ているのは、希望ではなく、巨大な監視社会と自律型兵器への布石である。
アルトマンは「監視や兵器利用には使わない」と言う。だがユーザーの側は、その言葉をそのまま信じない。ChatGPTの品質低下への不満、幹部の政治的な立ち位置への疑念などの不信感が、今回の軍事契約をきっかけに一気に噴き出したとも言えるかもしれない。
ユーザーたちの怒りに油を注いだのは、競合であるAnthropicが取った真逆の決断だった。報道によれば国防総省はAI企業に対し、あらゆる合法的な利用を認め、国内の大量監視や完全自律型兵器に対する安全装置を外すよう要求したという。
政府から言うことを聞かなければサプライチェーンのリスク企業に指定すると脅されたとき、どれだけの企業が抵抗できるだろうか。通常、この指定は、Huaweiなどの敵対国の企業に向けられるものいで、米国企業に向けられる処置ではない。
だが、Anthropicは拒否した。
自社のAI「Claude」が、国民を監視する目や、引き金を引く指として使われることを断固として認めなかった。この毅然とした態度は、倫理的な不安を感じていたユーザーにとって、感動的だったと想像する。トランプ政権の強権的・皇帝的施策に憤りを感じていた人は、Anthropicの態度に拍手喝采をしたことだろう。「ChatGPTを解約してClaudeへ」という流れが加速しているのは、機能の優劣以前に、この企業としての信念の強さに人々が惹かれたからにほかならない。
もちろん、OpenAI側にも言い分はある。アルトマンは「監視や兵器利用はしない」という合意があると主張している。しかし、愛国者法の拡大解釈や、グレッグ・ブロックマン社長の政治的つながりに対する疑念が渦巻く中で、その言葉を額面通りに受け取るのは難しい。何より、AIは平気で嘘をつく。「ハルシネーション」を起こすAIが、ミサイルの標的選定や犯罪者の特定に関わったとき、誰が責任を取れるというのか。その恐怖は、利用規約の文言ひとつで拭えるものではない。
リベラルだったテクノロジー企業は雪崩を打ってトランプ政権に平伏している。Googleが社内規定から軍事利用の禁止条項を削除し、Amazonが曖昧な態度をとり続ける中、シリコンバレーの良心がどこにあるのかが問われている。
こうした流れを個別企業の倫理観の問題として捉えるだけでは、構造的な問題を見逃す。AI産業が巨大資本と国家権力の両方と不可分に結びついた時、どのツールを使うかという個人の選択は、かつてないほど政治的な意味を帯び始めている。消費者の解約行動が、企業の方向性を変える力を持つかどうかは分からない。
QuitGPT運動は、単なる不買運動ではない。テクノロジーと国家権力の接近に対する、デジタル市民の最初の抵抗運動かもなのかもしれない。私も、この問題だけでなく、ChatGPTの品質に不満を持っていたので、この機会にQuitした。と言っても無料ユーザーとしては、今後もメインではないが使い続けるつもりだ。
