1月13日に投票が行われる台湾総統選挙は今後の東アジアの情勢に大きく影響与え、日本にとっても大きな意味がある。今回の選挙戦ではAIを使った偽動画や偽画像を拡散され、大きな問題となっているようだ。
生成AIツールの登場で、様々なことが便利になった反面、悪用することでこのような偽情報の問題が頻繁に起こってきている。
偽情報を作るにあたっては、生成AIツールで作られた偽動画や偽画像が真実味を加えるために使われている。これまでもアメリカ国防総省の近くで爆発が起こったと言う画像がSNSに投稿され、海外メディアが偽画像と分からずに報道したこともあり、ニューヨーク株式市場のダウ平均価格が一時的に100ドル以上も下落した。また、トランプ前大統領が逮捕され、警察に取り押さえられている偽画像が拡散された。これ以外にもローマ教皇がバレンシアガのダウンコートに身を包んだ画像やイギリスのウィリアム王子とパリ王子が王冠式で抱擁している画像や、フランスのマクロン大統領が、暴動の中でゴミが燃える通りに座っている画像など様々なものが作られ、拡散された。
これらは、MidjourneyやOpenAIのDALL-E3、Stable Diffusionなど強力な生成画像AIツールが普及して、言葉によるプロンプトだけで写真クオリティーの画像を生成することが可能になったために起こっているいることだ。動画についても同様だ。日本でも日本テレビのテレビ画面を模倣し、岸田首相が演説を行っている偽動画が投稿され、これも大きな問題となっている。
既に一般的に使われている偽画像・偽動画の生成AIツールは非常に強力で、人物の顔をリアルタイムで変更するディープフェイク技術なども利用されるようになってきた。このような技術の進歩は、プライバシーの侵害や偽情報の拡散など社会的影響をもたらす可能性がある。特に、先に述べた事例のように、公的な人物の偽画像や偽動画が誤解を招くような形で生成され、拡散されることにより大きな問題となる。
このような状況を受けて、偽画像や偽動画の検出技術の開発も非常に重要となってきている。
既に多くの企業がAIが生成した画像・動画を検出するための新しいアルゴリズムやツールを開発している。また、偽情報については、例えばLogicallyというアプリは、偽情報を見分けるために開発された。ファクトチェック機能やAIにより生成されたバイアスがかかった情報を排除して、事実だけの要約する機能なども備えている。
カメラについてもLeica M1-P-1はContent Credentialsと呼ばれる「Content Authenticity Initiative（CAI）に準拠した暗号化されたメタデータ」が画像に付加される。これは、暗号を使用して、識別可能な署名を画像の透かしを挿入することだ。これにより、著作権者を識別し、また加工されていないことも証明できる。画像がPhotoshopなどで編集された場合には変更履歴も記録されるからだ。
偽情報を防ぐためには、このようなAIによる偽情報の検出技術の開発も必要だが、現時点では完璧なものではない。このために、拡散が行われるソーシャルメディアによる監視と介入も必須だ。だが、これもイーロン・マスクはXでコンテンツの監視を行わないことを宣言している状況では偽情報の拡散の防止は期待できない。
だから、受け手側の私達のメディアリテラシーの向上も重要だ。個人が偽情報や偽画像を見分ける能力を高めることも必要なので、このための教育・啓蒙活動も考えなければいけないだろう。
しかし、最も重要なのは、AIツールにLeica M11-Pのような機能を組み込んで。AIのアルゴリズムの透明性を確保することだ。AIツール開発事業者が、生成されたデータに信号を埋め込んで、簡単に検出できるようにならないものか。
今後は、生成AIツールによるコンテンツが溢れ変わる。これは、文化的な寄与も大きいが、負の側面もある。生成AIツール開発事業者も含めて、政府や機関、個人が協力して偽情報の拡散を防ぐための取り組みを行うべきだろう。
