小学館IDをお持ちの方はこちらから
ログイン
初めてご利用の方
小学館IDにご登録いただくと限定イベントへの参加や読者プレゼントにお申し込み頂くことができます。また、定期にメールマガジンでお気に入りジャンルの最新情報をお届け致します。
新規登録
人気のタグ
おすすめのサイト
企業ニュース

黒幕のいない犯罪、非中央集権的犯罪組織、AIがもたらす最悪のシナリオ

2023.12.26

人が介在しない犯罪がAIによって引き起こされる?

 もう何のことかは察しがついたかもしれません。一つは「頂き女子」、もう一つは「闇バイト」に関する事件です。

参考:「頂き女子りりちゃん」マニュアルで恋愛詐欺 大学生に有罪判決(2023/12/15 毎日新聞)

参考:20代女性の人生狂わせた悪魔のささやき 罪悪感を吹き飛ばす「闇バイト」のリアル(2023/12/17 産経新聞)

 一つめの「頂き女子」は、マニュアルの作者と実行犯の間に何らの関係が無くても成立します。マニュアルを得てから犯罪を着想したのか、そもそも詐欺をしようとしていた人に都合のよいマニュアルがあったのか、大きな違いはありますが、「読む」という能動的なアクションがあってのものだということはわかります。

 そのアクションを起こさせるトリガー、すなわちSNSでマニュアルを販売したり、相談に受け答えするのは人間である必要はありません。なんなら「即席でマニュアルを生成して回答する」AIでも良いのです。

 二つめの「闇バイト」ですが、これも同様です。お金に困ってSNSで呼びかけた相手が人間であるかどうか、判断できる余地はありません。

 直接顔を合わせることなくWebサイトでメンバーを募り、メッセージアプリで指示を受ける。チャットメッセージが拙い日本語であっても、少し考えれば粗が見えてしまいそうな回答であっても、後ろめたい状況ではそれが正しいかどうかなんてことは関係がなくなります。むしろ、進退窮まった人にはそのほうがリアリティ高く感じられるかもしれません。

 もし、SFドラマやアニメ作品の黒幕として「人を犯罪に走らせるAI」をWebサイトやチャットボットとして設置したのであれば、当然設置者に疑惑の目が向けられます。ですが、汎用のAIとして公開され、たまたま人の欲することにAIが応えただけというのであれば、どうでしょう? 私たちはChatGPTを使用する前にOpenAIという会社に対してどれくらいの信頼を測りましたか?

 そういう状況で「黒幕のいない」犯罪が発生したり、いえ、「黒幕がいないと見せかけてきっちり元締めがいる」そういう犯罪も発生しうるのです。

 これまでネットを舞台にした事件は色々とありましたが、サーバーが海外にあったり、暗号資産が絡んだりすると、途端に追跡が難航するイメージがあります。このあたりが全て盛られると、全容を掴むのは難しくなるのではないでしょうか。

非中央集権的犯罪組織の可能性

 このコラムでも過去に取り上げております『DAO』ですが、穿った見方をすれば非中央集権的な組織は社会から資源(コモンズ)を簒奪する犯罪に適しているんではないかという見立てができます。首謀者がおらずトップダウンではない組織体系や、匿名や顔を明かさずに参加できることをもって、設計次第であるとはいえ、犯罪の全容を把握しづらくするのに役立ってしまう恐れがあります。DAOをもじって『DCO、Decentralized Criminal Organization(非中央集権型犯罪組織)』と呼べると思うのですが、誰が言い出すということではなく、ターゲットを選定したり、最適な犯行場所を導いたり、集合知がマイナスの方向へ働くということが想像できます。

 当然、そのメンバーの中にAIが混ざっていても、誰もわかりません。

 ……とまあ、スリリングな想像は本誌小説のほうで展開すればよいとして、社会に対してよろしくないことに、少なからずAIが関わってくる時代はすぐそこに迫っている、というわけです。

AIを社会はどう包摂していくべきか

 冒頭の欧州での議論ではありませんが、AIが必ずしも人の生活にプラスの面だけではないと仮定した上で、開発者や設置者の倫理に抜け穴はないか、文化によって許容度の違う内容をフォローしきれるのか、そういったことを論じ、制度として固めていく必要は大いにあります。

 高度で大規模なAIは電力の消費も大きいので、エネルギー消費あたりに得られるメリットからの総量規制も人類にとってあり得る選択なのかもしれません。

 けれども、スマホやそのOSのプラットフォームが地球上にいくつもないように、規制の果てに、ある一定の倫理の枠内でしか出力できないAIが広く使われるようになった場合、思想や哲学が地域を超えて画一化されていってしまうのではないか……。そんなことも考えてしまいます。

 ほとんどの国民にとって「AI」は長く使われてきたキーワードの割に、進歩における現在位置や生活への寄与度合いがまだよくわからないものでもあります。わからないものをわからないまま、怖がったり排斥しようとしたりする混乱は生じると考えられますが、人間が生み出したものですので、きっちり使いこなしていくのも、また人間の責務だと思っています。

 さてDIME本誌にて連載しております『TOKYO2040』では、デジタル化の行きつく先に、それでも遺していくべき業の意味とは何なのか、という局面に差し掛かっています。Webの@DIMEでバックナンバーも読めますので、是非お読みください!

文/沢しおん
作家、IT関連企業役員。現在は自治体でDX戦略の顧問も務めている。2020年東京都知事選に無所属新人として一人で挑み、9位(20,738票)で落選。

このコラムの内容に関連して雑誌DIME誌面で新作小説を展開。20年後、DXが行き渡った首都圏を舞台に、それでもデジタルに振り切れない人々の思いと人生が交錯します。

これまでの記事はコチラ

@DIMEのSNSアカウントをフォローしよう!

DIME最新号

最新号
2024年6月14日(金) 発売

DIME最新号の大特集は「スマホ時代デジタルデトックス!脳疲労解消法」

人気のタグ

おすすめのサイト

ページトップへ

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標(登録番号 第6091713号)です。詳しくは[ABJマーク]または[電子出版制作・流通協議会]で検索してください。