25
生成AIの進化は目覚ましく、社会や生活に様々な恩恵をもたらしている。しかし、その一方で、生成AIを悪用した詐欺も増加しており、その巧妙な手口は、財産や個人情報を脅かしている。つまり、生成AIは悪人にとっても便利で、有効なツールになる。
生成AI詐欺とは、文章、画像、音声などを生成するAI技術を悪用して、偽の情報を作り出し、人々を騙す詐欺行為だ。例えば、実在の人物の声や顔を偽造して、本人になりすましたり、実在しない商品やサービスをあたかも存在するかのように見せかけたりするといった手口がある。
このような状況の中で、クレジットカード会社のVisaが、AIを活用した詐欺防止技術を持つ企業Featurespaceを買収する計画を発表した。これは、生成AI技術が悪用されるリスクが高まっていることを示しており、企業が積極的に対策に乗り出していることを意味する。
生成AI詐欺の手口は日々巧妙化しており、見破ることが難しくなっています。代表的な手口は以下のようなことだ。
- ディープフェイク: ディープフェイクとは、AIを使って、実在の人物の顔や声を偽造する技術。この技術を使えば、あたかも本人が話しているかのような動画や音声を作り出すことができ、なりすまし詐欺などに悪用される
- フィッシング詐欺: フィッシング詐欺とは、偽のウェブサイトやメールなどを送りつけ、個人情報やクレジットカード情報などを盗み取る詐欺。生成AIを使えば、本物そっくりのウェブサイトやメールを作成することができ、被害者が騙されるリスクが高まる
- 偽情報: 生成AIは、あたかも真実であるかのような偽のニュース記事やSNS投稿などを大量に生成することができる。このような偽情報は、社会不安を引き起こしたり、特定の個人や団体を誹謗中傷したりする目的で悪用される
生成AI詐欺から身を守るためには、注意することがいくつかある。
- 情報源の確認: 情報を受け取る際には、その情報源が信頼できるものであるかを確認。公式ウェブサイトや信頼できるメディアからの情報であるか、発信者が実在の人物であるかなどを確認する。メールやメッセージを発信者の確認ができないなら開いてはいけない
- 不審なリンクや添付ファイル: 不審なリンクや添付ファイルは開かない。特に、見覚えのない送信者からのメールや、緊急性を煽るような内容のメールには注意が必要
- 個人情報の保護: 個人情報はむやみに提供しない。特に、氏名、住所、電話番号、クレジットカード情報などは、信頼できる相手以外には提供しない
- OSやアプリのアップデート: コンピュータやスマートフォンには、常に最新の状態に更新しておく
- 最新情報の収集: 生成AI詐欺の手口は常に進化しているため、最新の情報を収集し、注意喚起に留意することが重要。警察庁や消費者庁などのウェブサイトやネット検索広告で、最新の詐欺情報を確認
生成AIは、社会や生活を便利に豊かにする可能性を秘めた素晴らしい技術だ。しかし、その一方で、悪用されるリスクも存在する。生成AI詐欺から身を守るためには、一人ひとりが正しい知識を持ち、適切な対策を講じることが重要だ。今回のVISAによる詐欺防止技術を持つ企業の買収のように事業者側でも対策が取られることも望まれる。
