小学館IDをお持ちの方はこちらから
ログイン
初めてご利用の方
小学館IDにご登録いただくと限定イベントへの参加や読者プレゼントにお申し込み頂くことができます。また、定期にメールマガジンでお気に入りジャンルの最新情報をお届け致します。
新規登録
人気のタグ
おすすめのサイト
企業ニュース

戦争でAIが悪用される「ディープフェイク」にどう対処すべきか?

2022.03.25

【連載】もしもAIがいてくれたら

【バックナンバーのリンクはこちら】 
第1回:私、元いじめられっ子の大学副学長です
第43回:気になる的中率は?AIは桜の開花予想にも使われていた!

AIにはAIでしか対抗できないのか?

AIによるフェイク画像の生成手法である「ディープフェイク(Deepfakes)」で作られた、ウクライナのゼレンスキー大統領が降伏声明を出すというフェイク動画が3月16日にネットで公開され、FacebookやYouTubeなどが相次いで動画を削除するという騒ぎがありました。

国の指導者になりすましたフェイクが拡散することによる、安全保障上の危険性は、2018年にYouTubeでアメリカのオバマ前大統領があり得ない発言をしているフェイク動画が話題になった時にも指摘されていました。

なぜそのような危険な技術を作ったのか、とAIの技術開発に批判が生まれそうですが、みなさんが楽しく観ている映画などのCGでも、映像や画像に人を合成する技術は使われています。2017年には、現在もディープフェイク動画の多くに利用される技術「GAN(敵対的生成ネットワーク)」が登場し、「ディープフェイク」という名前のソフトウェアパッケージがオープンソースで提供され、広く用いられるようになりました。

GANは、イアン・グッドフェローらが2014年に発表した論文で、2つのネットワークを競わせながら学習させるアーキテクチャとして提案されました。GANは教師なし(ラベルなし)学習ができるため、大量の教師データが必要というAIの課題解決になりました。

GANは、Generatorというデータを生成するネットワークと、DiscriminatorというGeneratorが生成したデータが本物かどうかを見破るようにトレーニングされるネットワークから構成されます。この2つの異なる目的を持つネットワークが切磋琢磨することにより、本物に近い偽データを生成できると同時に、偽データを見破る側のネットワークも精度が上がっていきます。AIが作った高性能の偽データを見破れるのは高性能のAI、という世界です。

「まばたき」まで再現する

人間の目は騙されやすいことは昔から知られています。実際、ゼレンスキ―大統領のフェイク動画は、よく見ると首に影もなく、顔だけ切り貼りされたような、チープフェイクと呼ばれるレベルに近いほど稚拙なものです。それでも、フェイクだと言われないと騙されてしまう人も多いでしょう。AIによるフェイク動画を見破るのは、人間よりAIがはるかに優れているということで、以前からAIを使ったフェイク検知技術は盛んに研究開発されています。

2019年には、Meta(旧Facebook社)などがDeepFake Detection Challengeというディープフェイク動画の検知技術を競うコンテストを始めました。しかし、コンテスト用の動画の検知率は80%を超えたものの、その技術を、識別を困難にする加工が施された別の動画にも応用すると、検知率は65%程度になってしまうというように、未知のデータに関しては検知が難しいことがわかりました。

その他、「Microsoft Video Authenticator」という、Microsoftが2020年に公開したディープフェイク検知ツールもあります。画像や動画に、微妙な色あせやグレースケールといった違和感がないかどうか分析し、ディープフェイク動画の確率や信頼度スコアをリアルタイムで表示してくれるという仕組みです。

人間の顔のフェイク動画は、まばたきのような人間が自然に発する生理学的信号すべてを完璧に再現することはできないということに注目した研究も行われてきましたが、すぐにまばたきまで再現するAIが出てくるなど、いたちごっこの様相です。

AIは人工的なものですが、さまざまな自然の生理学的信号を検出できるようになれば、フェイクを見破ることができるようになるのではないか、という考え方は2018年ごろからニューヨーク州立大学の呂思偉(ルー・シウェイ)教授らのチームなども提起していました。関心を持って見守っていましたが、いまだフェイク動画の解決には至っていません。

動画単体でフェイクかどうかを見破るということも難しく、フェイク動画をアップすること自体を止めることもできません。各人がネットに美しく加工した画像をアップする表現の自由もあるかと思います。とすると、例えば、同時期にアップされる他の動画と比較して矛盾を見つけられるようにする、といった方向性の研究の方がよいかもしれません。技術開発は世界中でスピードを上げて行われているので、すでにそういった取り組みもあるかもしれません。高度な技術が世の中の役に立つことに用いられることを願いながら、注視していきたいと思います。

坂本真樹(さかもと・まき)/国立大学法人電気通信大学副学長、同大学情報理工学研究科/人工知能先端研究センター教授。人工知能学会元理事。感性AI株式会社COO。NHKラジオ第一放送『子ども科学電話相談』のAI・ロボット担当として、人工知能などの最新研究とビジネス動向について解説している。オノマトペや五感や感性・感情といった人の言語・心理などについての文系的な現象を、理工系的観点から分析し、人工知能に搭載することが得意。著書に「坂本真樹先生が教える人工知能がほぼほぼわかる本」(オーム社)など。


@DIME公式通販人気ランキング


興味のあるジャンルを登録して@DIMEをもっと便利に!Amazonギフト券が当たるキャンペーン実施中

@DIMEのSNSアカウントをフォローしよう!

DIME最新号

最新号
2023年3月16日(木) 発売

DIME最新号の特別付録は「5インチ電子メモパッド付き計算機」、特集は「ミニマルライフ&ギア」

人気のタグ

おすすめのサイト

ページトップへ

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標(登録番号 10401024号)です。詳しくは[ABJマーク]または[電子出版制作・流通協議会]で検索してください。