黒幕のいない犯罪、非中央集権的犯罪組織、AIがもたらす最悪のシナリオ

2023.12.26

ライフスタイル

TOKYO2040 Side B 第29回『悪い方へ人を導くAIの最悪のシナリオとは』

※こちらの原稿は雑誌DIMEで連載中の小説「TOKYO 2040」と連動したコラムになります。是非合わせてご覧ください。

AIは今や喫緊の政策課題

　EU（欧州連合）で先日、人工知能に関する包括的な規制案が暫定的に合意されました。

参考：EU、世界初の包括的AI規制で大筋合意　日本など外国企業にも影響（2023/12/9 朝日新聞）

　開発者と利用者の良心や倫理に頼るだけでは、AIと社会の共存は難しいというわけです。当然ながら日本も、今後のAI開発や各種権利問題を内包する学習に関して、どういう方向性を持つべきかが問われています。

参考：AI時代の知的財産権検討会（第4回）議事次第（首相官邸）

　リンク先のように最新の政策会議でも整理されていますが、欧州とはまた違って、国際競争力を確保し、できるだけ産業の振興に寄与する形で軟着陸することを目指しているように感じられます。

　これは、欧州連合では広範なAIが人権を侵しかねないという角度での争点なのに対し、日本では専ら「生成AI」に着目し、知的財産権との擦り合わせをどのようにしていくかを課題としているからでしょう。

　おおよそ、日本では良くも悪くも「道具は使う人次第」ということで、以前このコラムでも話題にしました顔認識や照合のように、インシデントが発生した際に、それを用いた企業の倫理が問われることはあっても「その技術がある限り不正に使われてしまうはずだ」という切り口でAIそのものへの不安が発生することは少ないです。

　例えば、マイナンバーカードで暗証番号を不要とした「顔認証マイナンバーカード」が導入されましたが、今年の春頃にマイナンバーカードやその行政事務に対して不信感で紛糾していたことに比べて、「国家が国民の顔情報を集め、AIで識別して把握し、管理しようとしている！？」という論調は、知る限りでは見受けられませんでした。

参考：「顔認証マイナンバーカード」きょうから導入（2023/12/15 NHK）

　もちろん、そんなことを言い出しても陰謀論として失笑に付されてしまうくらいには、現代の政府はそこまでしない、できるはずがないという積極的あるいは消極的な信頼があるのかもしれませんし、そんなことより政治資金パーティーのほうが政治の汚点としてわかりやすく気になる、というところかもしれませんが……。

　とはいえ、生成AIの取り扱いが政策的に定義されていくと、より一層民間での活用が広がり、国民のAIに対する理解度も高まっていくはずです。

　ですが、AIというのは国際的な協定や大企業のガバナンス下にあるものだけではありません。例えば絵などの生成AIでは、ネットに公開されているサービスを利用するだけでなく、自身のPCに学習をさせて出力結果を得ている人もいます。

　棋士の藤井聡太氏が棋譜の研究用に自作PCを使用していることを例に挙げるまでもなく、演算を担う高性能PCやGPUが手に入りやすい日本では、公開されずとも様々な方面でAIが進化していきます。

参考：NVIDIA、生成AI向け半導体供給で日本に「全面協力」　日米の連携加速（2023/11/15 ITmedia）

　こういった環境で、日本のAIはどのように発展していくのか、それについて負の側面も考えてみたいと思います。

育ちの悪いAIを想像する

　月刊DIME本誌で連載している小説『TOKYO2040』ですが、第29話では登場人物たちが「AIによって犯罪が教唆され、人が実行してしまったのではないか」という会話をする箇所があります。

　ChatGPTやBing(Copilot)といった最近の大規模言語モデルのAIを使い慣れている人であれば「そんな馬鹿な」と思えるはずです。ChatGPTやBingがそういった倫理に反することを回答しない日常に慣れているからです。

　生成AIが出力した何らかの結果について、人間にとって善か悪かということを人工知能がそのものが認識しているわけではありません。当然ながら、サービスを提供している事業者によって、問題のある回答をしないよう、枷が嵌められています。

　ですが、それはあくまで「育ちのいい」AIでしかなく、大規模になりすぎているがために、ビジネスとして展開されるがために、社会からそのように振る舞うことを要請されているからといえます。

　では、あくまで人間からの見え方に過ぎないですが、「育ちの悪い」AIについてはどうでしょう？　提供者によって枷を嵌められていないのであれば、善悪の概念を持っているかどうかは一切関係なく、暗に人が求めているものを最適な形で出力することに長けていくと考えられます。人がAIに求めるものが、人にとって悪であっても、というわけです。

　なぜこんなことを考えるのかというと、人が人を間接的に犯罪へと導くケースが目立っているからです。人が身体をもって他の人に影響を及ぼしているのならば指示命令や脅迫でしかないのですが、SNSやドキュメントといった画面越しで犯罪に走ったというのなら、教唆してくるその相手は、人間でなくても構わないということだからです。