DIME MAGAZINE
動画内音声がAIによって生成された可能性が高いかどうかを識別
マカフィーは2024年1月9日から1月12日まで開催された世界最大級のコンシューマー・エレクトロニクスの見本市「CES 2024」において、AIを活用した音声ディープフェイク検知技術「プロジェクト・モッキングバード （Project Mockingbird）」を発表した。
この独自の新技術は、AIが生成した偽の音声を利用した金銭や個人情報の盗難、ネットいじめ、さらには著名人のパブリックイメージを悪用するサイバー犯罪者の脅威が急増していることから、消費者を守るべく開発されたものだ。
生成AIツールは高度化し、より利用しやすくなったことから、サイバー犯罪者は巧妙な詐欺を簡単に作れるようになった。
例えば、ボイスクローニングを使用して、困っている家族になりすまして金銭を要求するといった手口や、「チープフェイク」と呼ばれる、ニュース番組や有名人のインタビュー動画に偽の音声を挿入し、影響力のある人の口から発しているように見せかける手口もある。
マカフィーのイノベーションおよび脅威インテリジェンス部門であるマカフィーラボは、消費者がデジタル操作されたコンテンツと本物のコンテンツを区別することがますます困難になることを予測し、AIが生成した音声を検出するように訓練された業界をリードする高度なAIモデルを開発した。
マカフィーのプロジェクト・モッキングバードは、AIを搭載した文脈、行動、カテゴリの検出モデルを組み合わせて使用。動画内の音声がAIによって生成された可能性が高いかどうかを識別する。
現在90%の精度で、マカフィーは悪意のある「チープフェイク」やディープフェイクのために作成されたAIコンテンツを検出して、保護することが可能で、消費者に比類のない保護機能を提供していくという。
■このAI検知技術の用途は多岐にわたり、消費者にとって非常に貴重なものとなる
米国マカフィー（McAfee, LLC、本社：米国カリフォルニア州）の最高技術責任者（CTO）であるスティーブ・グロブマン (Steve Grobman)氏は、今回の発表に際して次のように述べている。
「マカフィーの最新AI検出機能により、90%以上の精度で動作するツールを皆様に提供することで、人々がデジタル世界を理解して、見た目と異なる可能性のあるコンテンツの評価を支援します。70%の確率で雨が降るという天気予報が一日の計画を立てるのに役立つように、コンテンツが見かけ通り本物であるかどうか賢明な判断を下すためのインサイトを提供します。
AIによる詐欺や偽情報が横行する中、このAI検知技術の用途は多岐にわたり、消費者にとって非常に貴重なものとなるでしょう。マカフィーの音声ディープフェイク検出機能によって、何が本物で偽物であるかといったことを知る力を消費者の手に直接届けることができます。
マカフィーは、消費者がクローン有名人が新しい期間限定景品を謳うチープフェイク詐欺を回避できるよう支援し、また、消費者が米国大統領候補者に関するビデオを見たときに、それが本物なのか、それとも悪意のある目的でAIが生成したものなのかを瞬時に判断できるようにします。
これは、AI時代の保護をまったく新しいレベルに引き上げるものです。私たちは、AIが主導する新しい世界におけるニュアンスの違いをナビゲートし、オンライン上のプライバシーとアイデンティティ、そして健全な生活を守るための明確さと自信をユーザーに提供することを目指しています」
マカフィーは、AIイノベーションの豊かな歴史に基づき、マカフィーの音声ディープフェイク検出技術であるプロジェクト・モッキングバードの最初の公開デモを、コンシューマー・エレクトロニクス・ショー「CES 2024」の会場にて実施した。
この新しいAI技術の発表は、消費者のデジタルライフを保護するために、クロスプラットフォームで複数のユースケースに対応するAIモデルの包括的なポートフォリオの開発にマカフィーが注力していることのさらなる表れでもある。
「プロジェクト・モッキングバード」 とは
モッキングバードは、主に他の鳥の鳴きまねをすることで知られている。なぜモッキングバードが鳴き真似をするのか解明されていないが、この行動を取る背景には、メスの鳥がより多くの歌を歌うオスを好む可能性があるため、オスはメス鳥を騙すために鳴き真似をするという説がある。
同様に、サイバー犯罪者は生成AIを活用して、有名人やインフルエンサー、さらには愛する人の声を「模倣」して、クローン化することで、消費者を騙す。
マカフィーは 10年以上にわたって、AI を使用して、世界中の何百万もの顧客をオンラインプライバシーやアイデンティティの脅威から守ってきた。
複数のモデルを並行して実行することで、マカフィーは問題を多角的かつ包括的に分析することができる。
例えば、脅威の種類を理解するための構造モデル、その脅威が何を行うかを理解するための行動モデル、そして、特定の脅威を与えるデータの出所を追跡するためのコンテキストモデルを使用する。
複数のモデルを同時に活用することで、マカフィーは顧客に効果的な情報と推奨事項を提供。人々のプライバシー、アイデンティティ、及び個人情報を保護する取り組みを強化する。
※本リリースには、開発中の製品、サービス、プロセスに関する情報が含まれています。ここに記載されている情報は、マカフィーの独自の判断により予告なく変更される場合があります。本リリースのいかなる内容も、マカフィーによる申し出とみなされたり、マカフィーに義務を負わせたり、現在の購入やパートナーシップの決定に影響を与えるような将来のリリースを期待させるものではありません。
関連情報
https://www.mcafee.com/ja-jp/index.html
構成／清水眞希
最新号
