人工知能（AI）は進化しており、毎週のように新たな進歩や発見が発表されている。ChatGPTやClaude Sonnetなどの現在の主要なサービスは、目覚ましい能力を示している。人間ではもはや追いつかない作業がAIサービスで簡単に可能になった。しかし、人間に比べると論理と推論の限界は依然として明らかだ。頭は天才以上だが、判断力は幼児以下という感じだろうか。だが、OpenAIは、Project Strawberry（旧称Q*）でこの問題に取り組んでいるようだ。
ロイター通信の報道では、OprnAIの内部文書やプロジェクトに詳しい情報筋を引用し、いくつかの興味深い情報を明らかにしている。Strawberryは、大規模言語モデル（LLM）の推論能力を高め、自律的にインターネットを調査し、「ディープリサーチ」」を行い、複雑な複数ステップのタスクを実行できるようにすることを目指しているようだ。
「ディープリサーチ」とは、AIが自律的にインターネットを閲覧し、記事やコンテンツから情報を抽出・活用することで、推論能力を向上させる技術のことを指す。
Project Strawberryでは、AIモデルがディープリサーチを行うことで、時間をかけて自らの推論能力を継続的に改善していくことを目指しているとのことだ。
つまり、ディープリサーチにより、AIは人間の助けを借りずに自律的に学習し、複雑な問題解決を行えるようになる可能性がある。これは汎用人工知能（AGI）の実現に向けた大きな一歩となるのかもしれない。
ただし、AIがより自律的になることで、人間の監督が及ばなくなるリスクも懸念される。AIが生成したトレーニングデータや自律的な行動が、安全なAI開発の方針に沿ったものであり続けられるのか、判断が求められている。間違えば、ターミネーターの世界が実現してしまう。
AIモデルが独自の訓練データを作成し、継続的に改善していくことができるようになると、自律的で独立したAIシステムへと移行するしてしまい、後戻りはできなくなるのかもしれない。
Strawberryの潜在的な影響は、非常に大きい。現在のLLMは、推論と理解の限界があるため、広範囲にわたる人間の監督を必要とする。アウトプットを人間が判断して、フィードバックすることにより、幼児が物事を学ぶように少しづつ理性を積み上げている。これが、もしStrawberryがその役割りを果たすことができれば、AIの進化と活用方法に革命をもたらす可能性がある。
人間の介入をほとんど必要とせずに、詳細な調査を行い、情報を抽出し、それを統合して複雑な問題を解決できるAIモデルが登場することになる。ブレークスルーであると同時に大きなリスクだ。
現時点ではロイターの報道だけで、Project Strawberryの全容はまだ明らかではない。しかし、AIが人間の支援する学習を超えて進化する可能性は否定できない。もし成功すれば、独自の訓練データを生成し、自律的に学習し、これまで人間の知能を必要とすると思われていたタスクに取り組むことができる。つまり、人間が学んでいる過程を、AIが自律的に行うのだ。素晴らしいと同時に恐怖だ。
AIは常に進化している。Project Strawberryは、誇大広告かどうかにかかわらず、より洗練された能力のあるAIモデルを追求する上で、重要な一歩かもしれない。OpenAIからの正式な確認と詳細の発表があるまでは、まだ何もわからない。自律的なAIモデルは、いずれ登場するのだろうが、安全性に注意を払って、ターミネーターの世界が来ないことを祈るばかりだ。
