生成AIの普及が急速に進んでいるために現状の法制度や回収との齟齬が急速に明らかになってきている。その中の1つが、AIが簡単に電子透かし（ウォーターマーク）を削除できることだ。
Googleの最新AIモデル「Gemini 2.0 Flash」は、画像から電子透かしを削除する機能を持ち、しかもその使用を制限していないことが明らかになり、問題になっている。
Gemini 2.0 Flashは、高度な画像生成と編集機能を備えたAIモデルであり、特に画像中のウォーターマークを除去する能力において非常に優れているそうだ。ソーシャルメディア上では、このAIがGetty Imagesなど著名なストックフォトサービスの画像に付けられたウォーターマークを容易に削除できることが話題となっている。問題視している人もいるだろうが、悪用している人もいるだろう。
Gemini 2.0 Flashは単に透かしを削除するだけでなく、透かしが削除された部分の空白を自然に埋め合わせることも可能だ。これは他のAIツールでも可能ではあるが、Geminiは特に高い精度でこの作業を行える点で注目されている。
しかし、このような機能には、当然のことながら倫理的・法的な懸念が伴う。米国著作権法だけでなく、どの国の法律でも、元の所有者の許可なくウォーターマークを削除することは違法だ。実際にAnthropicのClaude 3.7 SonnetやOpenAIのGPT-4oなど他社のAIモデルは、このような行為を明確に拒否するようにプログラムされているようだ。
一方、GoogleのGemini 2.0 Flashは現在「テスト」段階とされ、「本番環境向けではない」と注意書きされているものの、開発者向けツール内で自由に利用可能であり、この点について明確な制限やガードレールが設けられていないことは問題視されている。
特定の半透明なウォーターマークや画像全体を覆うような大きな透かしには難しいものの、多くの場合には十分実用的なレベルで透かしを消去できてしまうため、不正利用につながる可能性も高い。
この問題は単なる技術的側面だけではなく、クリエイターや著作権保持者の権利保護という観点からも深刻だ。電子透かしは、本来コンテンツ制作者が自身の著作物を守るために施す重要な手段である。それを簡単に取り除ける技術が無料で提供されることは、多くのクリエイターや企業にとって脅威となり得る。
問題になっているので近日中には改善されると思われるが、GoogleはAIモデルで何度か問題を起こしてきた。そのようなことが、なぜ頻発するのか、何か問題があるのだろう。
今回明らかになったGemini AIによる電子透かし削除問題は、単なる一つの技術的問題に留まらず、AI技術全般における倫理性・合法性・社会的影響について再考する契機となるべきだろう。
