インターネット上の詐欺は、AI技術の進化とともにその手口も巧妙化してきている。同時に注目すべき傾向は、詐欺サイトの存続時間が非常に短くなっていることだそうだ。Googleの報告によると、詐欺サイトの平均的な存続時間はわずか10分未満と言われているようだ。これは、従来の手法で情報を収集して事前にブロックするアプローチでは対応が困難であることを意味する。さらに、詐欺サイトはユーザーによって見せ方を変えるなど、検出を逃れるための手段を進化させている。
また、AI技術の発達により音声クローンを用いた詐欺電話など、新たな脅威も登場している。Global Anti-Scam Alliance(GASA)の調査によれば、2024年には詐欺師たちが世界中のモバイルユーザーから約150兆円もの資金を詐取したとされ、生成AIを活用したツールによる被害も発生していると報告されていた。
こうした状況に対応するため、GoogleはさまざまなプラットフォームでAIを活用した包括的な詐欺対策を展開していると発表した。これらの取り組みの中心にあるのが、AIによるリアルタイム分析と検知能力だ。GoogleはAI技術を活用して全てのサービスの安全性基準を高め、詐欺師による攻撃を可能な限り困難にしようとしているとしている。
具体的には、Google検索での詐欺コンテンツの検出、Chrome browserでのリスクサイト分析、Androidでの不審な通知やメッセージの検出など、各プラットフォームでAIの能力を最大限に活用している。
Google ChromeでのGemini Nanoによる詐欺サイト検出
Google Chromeの次期バージョン「Chrome 137」では、オンデバイスの大規模言語モデル（LLM）「Gemini Nano」を活用した追加の保護レイヤーが導入されることが発表された。このシステムは、Chromeの「セーフ ブラウジング」機能と連携して動作する。
Gemini Nanoの役割と仕組み
Gemini Nanoは、Webサイトの多様で複雑な性質を抽出するのに最適なAIモデルで、新たな詐欺の手口にも迅速に対応できる能力を持っているという。具体的な仕組みとしては、ユーザーが閲覧するWebページからGemini Nanoがセキュリティシグナルを抽出し、その結果を「セーフ ブラウジング」に報告する。「セーフ ブラウジング」はそれをもとに詐欺サイトかどうかを判断し、危険と判断された場合はChromeで全画面警告を表示するという流れだ。
保護機能の強化とプライバシーへの配慮
「セーフ ブラウジング」の「保護強化機能」は、標準保護機能と比較してフィッシング詐欺やその他の詐欺からユーザーを2倍安全に保護することができるという。Gemini Nanoとの連携により、この保護能力がさらに向上する。
パフォーマンスとプライバシーへの懸念に対しては、Googleは複数の対策を講じている。LLMを「控えめに」トリガーしたり、ブラウジングを妨げないように非同期プロセスで実行したり、GPUの利用を制限するスロットリング（能力制限）とクオータ（割り当て制限）メカニズムを実装することで性能への影響を最小化しているという。さらに、Gemini Nanoが分析した結果は「セーフ ブラウジング」の「保護強化機能」をオプトイン（有効化）しているユーザーにのみ送信されるため、プライバシーの面でも配慮されているそうだ。
Gemini Nanoの導入により、詐欺を検出してユーザーに警告することができるようになっている。今後は、この保護をAndroidデバイスにも拡大し、さらに多くの種類の詐欺にも適用していく予定とのことだ。
Google検索でのAIによる詐欺コンテンツのブロック
Google検索では、AIを活用して日々何億もの詐欺的な検索結果を検出してブロックしているという。Googleが公開するレポート「Fighting Scams on Search」（検索における詐欺対策）によると、AIを活用した詐欺検知システムへの投資によって、検索結果に表示する前に詐欺ページとして20倍のページを検出できるようになったとのことだ。
AIによる組織的詐欺キャンペーンの特定
AIの進歩によってGoogleの詐欺対策技術が強化され、Web上の膨大な量のテキストを分析して組織的な詐欺キャンペーンを特定し、新たな脅威の検出が可能になった。例えば、航空会社のカスタマーサービスを装って困っている人を騙す悪質な行為を企てる者が大幅に増加していることが検知されている。Google検索では、既にこうした詐欺を80%以上減らすことに成功しており、詐欺師の電話番号に電話をかけるリスクを大幅に減らしているそうだ。
この技術は、検索結果が正当なものであることを保証し、機密データを盗もうとする有害なウェブサイトからユーザーを守る上で重要な役割を果たしている。
AndroidでのAI搭載の詐欺通知検出と警告機能
AndroidデバイスにおいてもGoogleはAIを活用した詐欺対策を強化している。具体的には、Android版ChromeでのAI警告機能、Googleメッセージでの詐欺検出、そして音声通話中の詐欺検出機能などが実装されているそうだ。
悪質なサイトは、大量のプッシュ通知でユーザーを騙そうとする。Webサイトからの通知を有効にしている場合、悪意あるサイトが通知の嵐によって詐欺行為をはたらく可能性がある。
こうした悪意あるスパムや誤解を招くような通知から身を守るため、Android版ChromeではAIを活用した新しい警告が導入された。Android向けのChromeに搭載される機械学習モデルがスパムの可能性を検出するとそれをユーザーに通知し、リスクの詳細（マルウェアの配信を試みているなど）を表示する。さらに、悪質なサイトからの通知をオフにするための選択肢が表示され、タップするとそのサイトからの通知をオフにできる。
しかし、AIを活用した詐欺対策は大きな可能性を持つ一方で、いくつかの課題も抱えている。
プライバシーとセキュリティのバランス
AIによる詐欺検出システムを効果的に機能させるためには、ユーザーのデータや行動パターンの分析が必要になる。しかし、過度な監視はプライバシーの侵害につながる恐れがある。
Googleの各サービスでは、オンデバイス処理を採用することで、ユーザーのプライバシー保護と強力な保護機能のバランスを取ろうとしているようだ。今後も、データプライバシーを守りながら効果的な保護を提供する技術の開発が求められるだろう。
AIによる誤検出の問題と対策
AIシステムは完璧ではなく、誤検出の可能性がある。正常なサイトや通信を誤って危険と判断してしまうと、ユーザー体験を損なう恐れがある。
この問題に対して、Googleなどは、AIの判断理由を明確に示す「説明可能なAI（Explainable AI）」の採用や、ユーザーが誤検出を報告できる仕組みを導入している。今後は、AIの精度向上とともに、人間によるフィードバックシステムの改善も重要になるだろう。ただし、これにはコストの問題もつきまとう。
詐欺師側のAI活用と対抗策
詐欺師側もAI技術を活用して詐欺の手口を高度化させている。音声クローン技術を使った詐欺電話や、AIが生成した偽のコンテンツなど、新たな脅威が次々と登場している。この「AI対AI」の競争において、防御側が常に優位に立つためには、継続的な技術革新と、詐欺手法の研究、そして業界全体での情報共有が不可欠だろう。
オンライン詐欺の手口が進化する中で、AIを活用した詐欺対策は極めて重要な役割を持つようになった。GoogleのChrome、検索、Androidでの取り組みは、AIの力を最大限に活用して、ユーザーをさまざまな詐欺から守るための包括的なアプローチだ。
今後も詐欺手法は進化し続けることは確実だが、それに対抗するための技術の開発を続けてもらいたいものだ。その意味で、Googleの取り組みは、もっと評価されるべきだろう。
