AI技術は近年、目覚ましい進歩を遂げており、目に見えない領域も含めて、私たちの生活やビジネスに広く浸透した。そして、2022年11月のChatGPTの公開から始まり、2023年はAIブームの年となった。マイコロソフトのナデラCEOは、Xにビデオを投稿して、その冒頭で「2023年はAIの年になったことは疑いはない」と述べている。2023年になって文章作成、コンピュータ・コード作成、画像・映像作成の多くの分野で、実際にAIツールが稼働している。しかし、その一方で、AI技術の急速な発展は、新たな問題を引き起こす可能性があることは多くの人が指摘している。
今後、AI技術がさらに進化して、GPT-4の進化版のような高度なツールにより、社会のあらゆる面で私たちの活動の多くの分野をを置き換えることは間違いない。しかし、この技術の急速な発展は、同時に新たな問題を引き起こす可能性がある。その一つが、人間を超越する可能性を持つスーパーAIの出現だ。
OpenAIには「スーパーアラインメント」と呼ばれるチームがあり、人間の知能を超えるAIシステムの開発に取り組んでいるそうだ。このようなスーパーAIは、人間の想像を超える解決策を提供できる一方で、制御が困難であるという大きなリスクを伴うと考えられる。この辺りが、先日のOpenAIのサム・アルトマンCEOの解任騒動につながる危険性の認識の違いがあるように思われる。
スーパー知能AIシステムの制御は極めて難しい課題だろう。AIが誤情報や偏見を含むデータに基づいて学習することで、不適切な行動をとる可能性は私たちは、AIを使って分かってきた。これを避けるためには、AIを適切に管理し規制する方法を見つける必要がある。
スーパーAIの実現可能性については、専門家でも意見が分かれている。一部の専門家は、このようなスーパーAIシステムの実現が困難であると考えているようだ。素人考えでは、今あるようなAIでも想像を超えるほどの能力なので、徐々に能力を上げて、スーパーAIが実現するような気もする。
OpenAIは1000万ドルの助成金プログラムを開始し、AI研究に資金を提供している。このような資金提供は、今後のAI開発に大きな影響を与える可能性があるだろう。その中のどこかで、誰かが、とんでもないブレイクスルーを実現することは否定できない。技術は、そのようにして進化してきた。
AI技術の進歩が急速であることを考えると、AIの潜在的な危険性に対して、適切な対策と議論が必要と思われる。先日のイギリスでのAIサミットでも、お題目だけで実効性はないにせよ、AIの危険性については指摘されていた。しかし、EUは、AIの危険性に関する規制法を制定した。この法律は、AIの開発と使用の利益とリスクを管理することを目的としており、最終的な目標は、AIが人間の生活を豊かにし、向上させるための道具となることを確保することだと宣言している。
この法律は、リスクのレベルに応じて規制内容を変えるアプローチを採用している。規制は「受け入れられないリスクAI」、「高リスクAI」、「限定リスクAI」、「最小リスクAI」の4つのカテゴリに分けられている。この制限内容に基づいて、開発や実用化を事業者に求めてゆくようだ。
この法律は、EU内で市場に出されたり使用されたりするAIシステムに適用され、AIサービス開発提供事業者がEU内に設立されているかどうかに関係なく適用される。これは、EU内でサービスや製品を提供する世界中の企業もこれらの規制の対象となることを意味する。
AI技術の進歩は、私たちの生活を豊かにする大きな可能性を秘めていることは事実だ。しかし、その進歩が持つ潜在的な危険性に対しても、適切な対策と議論が必要だろう。OpenAIのスーパーアライメントチームは、強力なAIシステムを制御するフレームワークも、スーパーAIの開発と同時に構築しようとしているそうだ。ブレーキのついた車を開発していると信じたい。
