DIME MAGAZINE
【連載】もしもAIがいてくれたら
【バックナンバーのリンクはこちら】
第1回：私、元いじめられっ子の大学副学長です
第44回：戦争でAIが悪用される「ディープフェイク」にどう対処すべきか？
京大教授が呼びかけた「ディープフェイクを見抜く方法」
前回は、AIによるフェイク画像の生成手法である「ディープフェイク（Deepfakes）」で作られた、ウクライナのゼレンスキー大統領が降伏声明を出すというフェイク動画の問題について書きました（戦争でAIが悪用される「ディープフェイク」にどう対処すべきか？｜@DIME アットダイム）。「どう対処すべきか」については踏み込んで書けなかったので、続きを書きたいと思います。
前回の記事の後半で、動画単体でフェイクかどうかを見破るということも難しく、フェイク動画をアップすること自体を止めることもできないなら、例えば、同時期にアップされる他の動画と比較して矛盾を見つけられるようにする、といった方向性の研究の方がよいかもしれない、と提案しました。
この件に関連して、京都大学の西田眞也教授が、共同研究用のslack上で興味深い提案をされていました。西田教授らとは、画像などの媒体の質感に注目して、私たちが見ている現実感とは何なのか、といった関心を持って共同研究をしています。ご本人の了解をいただいたので言及します。
西田教授は、ウクライナ問題で映像の信憑性に関して議論が盛んになっていることに触れ、
（１）ある映像がどれだけ撮影時のraw映像（もともとの生の映像）から編集（改竄）されたものかを調べる仕組みはないか？
（２）ある映像につけられた説明が実際の映像と一致するかを調べる仕組みはないか？
ということについて、共同研究者たちに呼びかけています。
ブロックチェーンの「改竄を防ぐ機能」に光明あり
（１）の映像データから改竄を判断する方法については、主にコンピュータ犯罪に関連して、デジタルデバイスに記録された情報の回収と分析調査などを行うデジタル・フォレンジック（digital forensics）が1980年代のコンピュータの発展期から知られています。西田教授も、映像データ単体からフェイク映像を見つけることが不可能になるとしています。そこで、編集履歴を公的に確認できるための別の仕組みの必要性を訴えています。何らかの映像を公開するときは、ブロックチェーンか何かで、真正性が保証された生の映像がセットで公開される仕組みになっていないと、信頼性がないと判断する、というのはとてもよいアイディアだと思いました。
「ブロックチェーン」というと、仮想通貨に特化した最初のブロックチェーンとされるBitcoinが登場したことで有名になったため、金融取引用のプラットフォーム、という印象が強いかもしれません。しかし、ブロックチェーンそのものは、ネットワーク内での取引の記録の塊である「ブロック」が、時系列につながっていくデータ構造のことを指していて、仮想通貨とは別の話です。個々のブロックには、取引の記録に加えて、１つ前に生成されたブロックの内容がハッシュ値と呼ばれる情報などとして格納されています。そのため、過去に生成したブロック内の情報を改ざんしようとしたときに、変更したブロックから算出されるハッシュ値が以前と異なることから、後に続くすべてのブロックのハッシュ値も変更しなければなりません。したがって、改ざんが困難なデータ構造と言えます。
ブロックチェーンは、その他データの改ざんを防ぐ様々な仕組みを備えており、しばしば分散型台帳と言われています。ブロックチェーンは、ネットワーク内で発生した全ての取引を記録する台帳として働き、ネットワークに参加している全ユーザが同一の台帳を共有することで、情報の信ぴょう性を確保しています。ブロックチェーンは、中央集権的な管理者を持たない仕組みなので、戦時下にテレビ局などがハッキングされるといったことで情報の信頼性が不確実になった場合に、有用な可能性があります。
AIに対抗できるのはやはりAI？
（２）の、ある映像につけられた説明が実際の映像と一致するかを調べる仕組みはないか？ということについては、映像は本物で、説明が偽物といったケースです。自動で映像にアノテーションを付けるような研究もされていますが、自動生成も人間が悪意を持って行うことが可能なため、なかなか難しいですね。しかし、自動生成AIにより映像に付与された説明の不一致を、別のAIで見抜く、ということはできるかもしれません。
待ったなしに危険な事態にさらされる戦時下に、平和を守るための技術が追いつくか、研究者にできることは何なのか、考えさせられます。
坂本真樹（さかもと・まき）／国立大学法人電気通信大学副学長、同大学情報理工学研究科/人工知能先端研究センター教授。人工知能学会元理事。感性AI株式会社COO。NHKラジオ第一放送『子ども科学電話相談』のAI・ロボット担当として、人工知能などの最新研究とビジネス動向について解説している。オノマトペや五感や感性・感情といった人の言語・心理などについての文系的な現象を、理工系的観点から分析し、人工知能に搭載することが得意。著書に「坂本真樹先生が教える人工知能がほぼほぼわかる本」（オーム社）など。
最新号
