GoogleがYouTubeに生成AIコンテンツであることを示す表示などを今後数か月内に導入

GoogleからYouTubeの生成AIコンテンツに対するアプローチを紹介した日本語ブログが公開されたので、その概要をお伝えする。

生成 AIは、YouTubeというプラットフォームで創造性を解き放ち、視聴者とクリエイターの利用体験を大きく変える可能性を秘めている。

ただし、このような場合には、コミュニティを保護するという YouTubeの責任とのバランスを取ることも重要だ。YouTubeにアップロードされるすべてのコンテンツは、その作成手段にかかわらず、YouTubeのコミュニティガイドラインが適用される。

一方で、YouTubeは、AIが新たなリスクを招く可能性があること、そのために新しいアプローチが必要になることも認識している、と述べている。

YouTubeの取り組みは初期段階にあり、今後の知見に応じて継続的に進化させていく予定。そこで来年に向けて今後数か月にわたり、YouTubeが展開するアプローチが解説されている。

開示の要件と新しいコンテンツ パネル

YouTube は、ユーザーの誤解を招くような方法で技術的に操作または改ざんされ、多大な危害を及ぼす可能性のあるコンテンツを禁止するポリシーを長年設けている。

しかし、AI の強力で新しいストーリーテリングの形式は（特に、動画が改変されている、合成されたものであると視聴者が気づかない場合には）視聴者の誤解を招く可能性のあるコンテンツを生成するために使用されることもある。

この懸念に対処するため、今後数か月の内に、視聴中のコンテンツが合成コンテンツである場合は視聴者にそのことを知らせる表示が導入される。

具体的には、AI ツールを利用した場合を含め、改変または合成による本物にみえるコンテンツを作成したクリエイターには、その旨を情報開示することを求め、アップロードする際に、改変または合成素材が含んでいることを開示する新しいオプションを選択できるようになる。

たとえば、現実には起きたことがない出来事をリアルに描写している生成 AI による動画や、実在の人物が実際には行っていない発言や行動をしているように見せるコンテンツなどが、これに該当する。

コンテンツが改変または合成されている可能性があることを 2 つの方法で視聴者に知らせる。コンテンツの一部が改変または合成されたものであることを示す新しいパネルが説明欄に追加され、さらに、センシティブなトピックに関する特定のタイプのコンテンツについては、より目立つパネルが動画プレーヤーに表示される。

説明欄に表示されるパネルのイメージ図

動画プレーヤーに表示されるパネルのイメージ図

有害性のリスクを軽減するにはパネルだけでは不十分なものもある。一部の合成されたコンテンツは、パネルの有無を問わず、コミュニティガイドラインに違反している場合には YouTube から削除される。

たとえば、合成により作成された動画が、視聴者に衝撃や不快感を与えることを目的として現実的な暴力を描写している場合は、削除の対象となることがある。

さらに今後、これらの新しい要件が適用されるのに合わせて、YouTube の生成 AIツールや機能を使って作成されたコンテンツは、改変または合成として明確に表示される。

YouTube AI Dream Screen で作成されたコンテンツに表示されるパネルのイメージ図