DIME MAGAZINE
オンラインのセキュリティ対策製品を提供しているマカフィーは、開催中の大規模国際スポーツ大会といった注目が集まる機会に乗じた詐欺が増加していることを明らかにした。
詐欺師らは熱気を帯びるイベントを利用して偽のチケットから模倣品の販売まで、警戒心が緩んでいるファンに悪質な詐欺を働くという。
本稿では同社リリースを元に、その概要をお伝えする。
AIの進歩でこれまで以上に巧妙な詐欺が身近に
こういった詐欺には高度なソーシャルエンジニアリング技術（人間の感情を利用して、重要な情報を侵害する手法）が使われており、AI（人工知能）の進歩でこれまで以上に巧妙な詐欺が身近なものになっている。
音声クローニング技術を使うと、詐欺師は低コストで説得力のある偽の音声メッセージを作成できる。
昨年マカフィーが発表したAI音声詐欺の調査では、その顕著な結果が出ており、高度な複製技術が詐欺師の手に渡った際の脅威が増していることを示している。
直近では、大規模国際スポーツ大会に絡めたとある動画で、著名な起業家であるイーロン・マスク氏の声でナレーションされた架空のディープフェイク版のシリーズがストリーミングサービスで注目を集めた。
該当動画は、詐欺師が著名人を利用して信憑性のあるストーリーを作り出してフェイク情報を拡散して、いかなる手段を使って人々を欺こうとしているかを知ることができる。
国際的なイベントの開催タイミングに合わせて詐欺を働くケースが多いので、特に規制が緩いプラットフォームでみられるセンセーショナルな主張が真実かどうか問い続けることが重要だ。
巧妙な詐欺に騙されないように、公式チャンネルを通じて情報を確認することを同社では推奨している。
このようなフェイク動画を制作したクリエーターは、人気のあるストリーミングサービスの作品であることを主張するだけではなく、信頼できる出版社からの捏造された支持のコメントやレビュー画像も広め、人々の心情をあおる詐欺を仕掛けてくる。
■シリーズ内の動画で見られる不具合や不一致
元の素材は、ウォール・ストリート・ジャーナル（WSJ）のインタビュー動画が使用されており、その上から修正が加えられている（背景に注目）。音声クローンは、人間の耳ではほとんど区別ができない。
■元の動画：メディアのインタビュー場面を切り取り
イーロン・マスク氏の声は以前から模倣の対象となっていた。マカフィーが発表した2023年ハッカーセレブリティホットリスト（英語のみ）では6位にランクインし、暗号通貨詐欺で最も頻繁に模倣される著名人の一人でもある。
ディープフェイクや関連する詐欺の蔓延が、情報操作やデマキャンペーンとともに増加の一途をたどるなか、同社は、ディープフェイクの音声検出技術を開発した。
5月の「RSAカンファレンス2024」でIntelのAI PCに搭載されたMcAfee Deepfake Detector（旧称「プロジェクト・モッキングバード＝Project Mockingbird)」は、人々が虚構と真実を見分けるのを助け、AIが生成した捏造音声を利用して、金銭や個人情報の収奪、ネットいじめ、著名人の公共イメージを操作する詐欺を行うサイバー犯罪者から消費者を保護する。
オンラインでコンテンツを閲覧する際に注意すべきこと
AIコンテンツは現在、ますます信頼性が高まっている。オンラインでコンテンツを閲覧する際の主な推奨事項は次のとおりだ。
（1）信頼できないソース（情報元）からのコンテンツには懐疑的になる
常に疑いの目を持って確認する。信頼に欠ける情報元の場合、コンテンツは規制が緩いプラットフォームのみでアクセス可能で、一般的ではないパブリッククラウドストレージに投稿されている。
（2）コンテンツを閲覧する際には警戒心を持つ
ほとんどのAIによる捏造は何らかの欠陥を持っているが、一目見ただけではそのような不一致を見つけることはますます難しくなっている。動画内で偽造されたと思われる明らかな指標をいくつか指摘したが、音声はさらに複雑だ。
（3）情報をクロス検証する
コンテンツのクロス検証は、検索エンジンでタイトルに基づいて行なうか、人気のストリーミングサービスのコンテンツを検索することで、おかしな点に気づくことができる。
関連情報
https://www.mcafee.com/ja-jp/index.html
構成／清水眞希
最新号
