DIME MAGAZINE
リスクがあるから使わないという選択もある意味リスクに
また、特に画像生成のジャンルで大きく問題視されているのが「著作権侵害」のリスクです。
生成AIでの画像生成は、画像生成に特化したサービス（Stable Diffusion：ステイブル・ディフュージョン等）でも利用できますし、LLMでも画像を出力できるようになってきています。不用意に生成した画像を公開してしまうと、学習データとして無断で利用されている著作物の権利者から訴えられるリスクがあります。また特に権利者からの訴えがなくとも、生成AIで作った画像をメインに据えた広告などはイラストレータの職を奪っているとされSNSで炎上して公開中止に追い込まれたりする場合もあります。また、既存の著作物、とくに有名なキャラクターなどに似たものを作成してもらう使い方も著作権侵害に繋がる可能性があります。
現状このようなリスクに対する対策としては、公開データとしては利用を控えることぐらいしかありません。社内でのイメージの共有などコミュニケーション手段としてのみ利用したりと、範囲を狭めたほうが無難かもしれません。この画像生成における著作権問題については、クリエイター側の意見にも触れながら、別のコラムでも詳しく議論していきたいところです。
さらに、生成AIの普及に従って問題視されるようになってきたリスクに「プロンプトインジェクション」というものがあります。これは、自社製品についての問い合わせを生成AIによるチャットボットで行おうとする際に発生するリスクです。システムを構築する際には、自社製品に関する情報をチャットボットに学習させたうえで一般に公開することになります。通常のユーザーからの問い合わせであれば、製品の特徴や利用方法などを答えてくれる便利なチャットボットになりますが、問い合わせをするユーザーに悪意がある場合、例えば学習に使ったオリジナルの製品データをプロンプトを使って取得されてしまうというリスクが存在します。製品の問い合わせに限らず、社外に公開した場合は、その学習データも流出する可能性があるという認識を持つ必要があります。また、データが流出しなくても問題のある発言を誘導させて「公式の見解でこんなひどい回答をされた！」とSNSでの炎上を狙われたりということもありえます。
ただ、プロンプトインジェクションの対策には、ある程度定石と言えるものができつつあります。専門家に依頼することでも対策できるでしょうし、ネットで調べれば具体的な対策方法が出てくるので、こうしたリスクがあることも認識しながら対応すれば問題ありません。
今回のコラムでは「生成AIを会社で利用する際のリスク」についてお伝えしましたが「リスクもあるしウチの会社はまだ使わない」「当社では利用禁止」となってしまうことも、ある意味リスクになり得ます。競合他社がうまく使いこなしていることで自社の競争力が妨げられる可能性もあるでしょうし、社員が知らずに使ってしまったことで情報漏洩などの問題につながることも考えられます。単純に禁止するのではなく、有効に活用した上で管理を行うというのが上策です。リスクに過剰に反応するのではなく、正しい知識を持ち、生成AIの活用によるメリットをくまなく享受できるようになるといいですね。
森 一弥（もり かずや） https://twitter.com/dekiruco
アステリア株式会社 ノーコード変革推進室 エバンジェリスト。 テレワーク推進の波に乗り、某有名SFアニメの聖地である箱根に移住。アニメや漫画、甘いものとかっこいいクルマをこよなく愛す、気ままな技術系エバンジェリスト。 AIやブロックチェーンなど先端技術とのデータ連携を得意とし、実証実験やコンサルティングの実績も多数。見聞きしたことは自分でプログラミングして確かめた上でわかりやすく解説することが信条。 現在は AI や IoTなどの普及啓発に努め、生成AI協会（GAIS）のエバンジェリストとしても活動中。
最新号
