ChatGPTとBingのチャット機能は、引き続き大きな話題となっている。テレビまで取り上げられているためか、どちらも非常に反応が遅い。ChatGPTは1月末時点でユーザが1億人を超えているとされているが、今はもっと増えているかもしれない。
AIによる文章生成が一般化になるにつれ、その危険性についても多くが指摘がされるようになってきた。ChatGPTは新しい情報には対応していないために、古い情報に基づいた文書が生成されることが多い。それから、まだ経験していないが、とんでもない間違いもしでかすようだ。
アメリカの学校でも、ChatGPTを使った論文やレポートの問題への対応が話題になっている。あるいは、今後ChatGPTなどによる文章がネット上にあふれたときに、見分ける方法が必要という意見が多い。ChatGPTを開発したオープンAIもこの問題について最初からわかっていたのか、AIが書いたものかどうかを見分ける検出ツール、OpenAI GPT2 Output Detectorを、ChatGPT のリリースから2ヶ月後の1月末に発表している。しかしながらまだ使った事はないが、ネットの記事によると、このAI検出ツールを使っても精度は五分五分のようだ。つまり、サンプルの半分しかAIが書いたものかどうかのを正確に識別できなかったと言うことだ。
これ以外にも、AI検出ツールは数多く発表されており、有名なものではGPT Zeroがある。これはプリンストン大学の学生が作ったもので、1月1日にリリースされている。こちらは、早く公開されたこともあり、多くの教師が利用始めて、学生のレポートや論文の評価に使用しているようだ。これGPT Zero以外にも何種類も検出ツールが公開されている。
しかし、それらのツールの精度については情報は見つけられなかった。たぶん、本家のOpenAI GPT2 Output Detectorの精度が半分程度ということを考えると、他も同様なのだろう。
しかも、OpenAI GPT2 Output Detectorは1000文字以上の文章でないと対応できないようなのでツイートのような短い文章の分析には使えない。
この問題に対応するためには電子透かしの導入以外考えられないそうだ。AIによる文章の生成の際に、ある特定の規則を作り、その規則に基づいて文章が作成されているかどうかで判断する技術のようだ。例えば、ある単語が、類語の別の単語よりも、頻度が多く使われると言うようなルールをAIに課しておく。それで、検出が可能になる。しかし、これも全てのAI言語生成モデルが導入しなければ効果を発揮しない。
ChatGPTのようなAI言語生成が様々な場面で使われるようになるためには、このような安全装置が必要だ。そうでなければ、。今のフェイクニュースどころではない、誤情報が溢れることになる。
当然Googleにしても、Microsoftにしてもこの問題についてわかっているので、安全性の確保が重要とCEOが発言をしている。AIの素晴らしさとともに危険性の認識も進んだようだ。
今までAIについての話題がこれほど盛り上がった事は無い。すでにAIは様々な場所で使われているが、一般人が直接使用する言語生成モデルと言う形で、我々の前に現れた結果、AIの素顔を直接見ることができるようになった。その結果、これだけ話題になり、また、その危険性も認識できるようになったのだろう。
