OpenAIはAIで書かれた文章を判別するツールのAI Text Classifierを2023年1月に発表した。しかし、このツールを7月20日に提供を終了していたことがわかった。その理由は精度が低かったからだそうだ。
AIにより生成された文章を判別するツールはAI Text Classifier以外にもたくさん登場している。代表的なものはAI Writing Check、GTP Zero、CopyLeaks、CatchGTPなどだ。ただどのツールも精度が低く、完璧にAIにより生成された文章を見破ることができない。OpenAIのAI Text Classifierは、その中でも平均点以下の性能だと言う評価がされている。いくつかのテストを行われているが、最も高い性能をしめしたのは、GTP ZeroとCatchGTP の２つのツールだ。それにしても、高い正解率というだけで完璧ではない。
このような状況を踏まえてAI Text Classifierの提供やめろだろ。
しかし、それにしても生成AIツールの提供元のOpenAIが判別ツールを作って、それがうまくいかないと言う事はどういうことなのだろうか。大規模言語モデルの中身は開発者もよくわからないほどブラックボックス化していて、生成された文章は自然だと言うことなのだろうか。
このような状況を考えると、今後ますます人間が書いたのか、生成AIツールが書いたのかわからない文章が溢れることになる。一部の人が主張をするように何らか発見するメカニズムを加えるべきだと言う声が強まりそうだ。しかし、誰が書こうと、害を与えるような文章は悪であり、それを人間が書いたのか、生成AIツールが書いたのかを発見することには意味はない。
現時点でも、AIの書いた文章を判断するのは難しいとすれば、今後ますます生成AIツールの進化により、判別が難しくなるだろう。
OpenAIは、AI Text Classifierを終了したと言うことがニュースになっていることに加えて、GTP-5を商標登録したと言うことも明らかになった。生成AIツールの開発についてルールが必要だと、OpenAI のアルトマンCEOが主張していることから、すぐに次世代のGTP-5が登場すると言うことではなく、他人がGTP-5の商標を使うことがないようにするための防衛的な措置だと言われている。
しかし確実に近い将来、GTP-5が登場する事は間違いない。その時点では人間が書いたのかAIが書いたのか誰にもわからなくなるのだろう。
