データの連携によってAIが人間以上に正論を叩きつけてくる未来がくる!?

TOKYO2040 Side B 第13回『データ連携でAIが人間以上に正論を叩きつけてくる未来』

※こちらの原稿は雑誌DIMEで連載中の小説「TOKYO 2040」と連動したコラムになります。是非合わせてご覧ください。

　DXを推進するにあたって、デジタルツールの導入だけではDXとは呼べないということをこのコラムでは何度か書いてきました。デジタル化を通じて人間の行動変容が伴わなければDXの意義は果たされません。その過程で、可視化や効率化が達成されていきます。

　槍玉にあげられやすい紙やハンコやFAXというツールにも得意分野はあるので、その場合は堂々とアナログの道具を使えば良いわけです。問題は、デジタル化することで時間を作り出せたり、新たな可能性がひらけたりするのに、それをせずに非合理的に古い手法に固執することにあります。

「強いAI」と「弱いAI」

　ここでDXの一つの方向として、人の行動変容に大きく寄与すると期待されているのがAIの存在です。人間の得意分野で置き換えの効かないものだと思われてきた「意思決定」にもDXの波が訪れつつあります。

　人間はどんな瞬間でも何らかの判断をしています。業務での意思決定などは影響範囲も大きく人間関係や様々なしがらみへの深慮遠謀もあるかと思いますが、身近なところで言えば昼食を何にしようかと迷い、メニューから選択をするのも判断と呼べます。

　食事に偏りがないように昨日おととい何を食べたかを思い出して決めることもあれば、毎日同じメニューで済ませてしまう人もいるでしょう。まったく考えずに日替わり定食に身を委ねるのも”アリ”で、これまた判断の結果です。

　そういった小さなことまで毎時毎分毎秒、人が臨機応変に判断をしていけるのは、裏付けとなる大量の経験や知識があるからです。そして、チームや組織での意思決定には、一人の経験則だけではなく、多くのデータやチームメンバーによる手間をかけた準備を必要とします。たくさんの討議を経て、プロジェクトの命運をかけての判断をすることもあるでしょう。

　これがAIに置き換わるとして、そんなに万能で経験豊富なAIは今のところ存在しません。

　現代のAI論議に「強いAI」「弱いAI」という言葉が出てきます。「強いAI」は人間の思考と同様のことができるほど優れた推論機能を持つ人工知能で、実用化はされていません。SF作品に出てくる、自身の意思で行動し、人間と対話するスーパーコンピュータやアンドロイドとして描かれるものをイメージするとよいかと思います。

　そして「弱いAI」は、性能の良し悪しの意味で弱いのではなく、人間のある機能のみをシミュレートし特化したAIのことです。以前このコラムで話題にしました画像認識をするAIや、囲碁将棋を指すAIは「特化型AI」といえます。これに対して、強いAIにおける思考の有無は別として、汎用的に用いることができるAIは「汎用型AI」と呼びます。

　強くて汎用的なAIの実現は相当未来になりそうですが、弱くて特化型のAIはたくさんの事例があります。例えば、いくつかのAIにおいてそれぞれの用途で深層学習という「経験」をさせ、データベースへ「知識」を格納する。これらの蓄えをもとに起こり得る事態の「推測」をし、それを組み合わせて「討議」でブラッシュアップし、「統合」して意思決定するなどが考えられます。

　基盤となるデータベースについても、民間や行政のオープンデータが続々と公開されていますし、国を挙げてのデジタル推進で、データ連携の基盤は整いつつあります。

　当然、個人を守るための「個人情報保護法」についても、公民一元化が進み、2022年4月1日に施行された個人情報保護法と、2021年5月19日に公布されている次の改正法をもって、地方自治体でバラバラに制定され「2000個問題」と呼ばれデータ連携の障壁となっていた各地の個人情報保護条例が、国の個人情報保護法に統一されます。

AIが導いた回答をどう解釈し、運用するか？

　まだまだ課題は多いとはいえ、連携された巨大なデータの塊を、AIが重ね合わせたり結び付けたり渡り歩いたりして、人間では気づけなかった何かを導き出すという時代はすぐそこまで来ています。

　本誌連載小説『TOKYO2040』では、近未来の首都直下型地震から復興した後の東京で、行政の意思決定を補助している架空のAIを登場させています。大災害後の社会的な反省からAIによる予測を優先するあまり正論に傾倒し、新たな差別が生まれることを主人公は危惧しています。

　先日、ある大学のサイトで公開されていたデータの利活用に関連するコンテンツが話題になりました。童話に模したショートストーリーで、赤ずきんがデータサイエンスによって犯罪の発生を予測するというものでしたが、『まず赤ずきんは森のいたるところに顔認証システムとリアルタイムで接続された監視カメラを設置し、犯罪者に多い不審な動きや表情、行動パターンをしている動物がいないか調査。1匹、とても危険な動物がいることがわかりました。（引用）』として、適切とは言えないプロファイリングを裏付けとして、データサイエンスが偏見や差別を助長するのを肯定することになるのではないかと物議を醸しました。

　フィクションとして、そこに潜む罠を見出すことは楽しいのですが、実際にEBPM（Evidence Based Policy Makingの略で「証拠に基づく政策立案」と訳されます）が進み、データに基づいているうえに、感情やブレの無い結論がAIによって出力され、組織やチームの判断に採用される時、人はそれを100%受け容れていくことができるでしょうか？

　おそらく、AIのサジェスチョンをどのように受け容れて人間としての判断に組み込んでいくかについて、大きく議論されるに違いありません。AIも人間が作り出すものではありますが、開発の段階で何らかの忖度や酌量を組み込んでしまっては意味がありませんので、データに基づく推測はストレートに出力され、それを人間がどう解釈し、運用するかという新しい仕事が生まれると考えられます。

　相手が人だった場合は、利害調整や「まあまあ、そこをなんとか」が通用したかもしれません。もちろん、人と人のコミュニケーションでも「相手が何でそんなことを言い出したのかわからない」というケースは往々にしてありますし、根拠なく直感で物を言っているように見える人というのはそれなりにいます。

　思考の過程を覗き見ることができないという点では、AIも人間の頭の中身も、論理の筋道が明確な図で描かれているわけではないので同じかもしれません。

　AIを「ロジックを説明せずに長い年月の経験蓄積でものを言っている頑固な人」と仮定すると、コミュ力の高い人ならうまく解釈して「ものは言いよう」で、判断の結果を次のオペレーションへ繋ぐ潤滑油になれるかもしれないですね。

　近いうちに、ビジネスや行政あるいは家庭でも、データの分析や推測にAIを日常的に用いる時代が来ます。その際に、AIの判断や結論をただ押し付けてくるだけの人が台頭して「AIハラスメント」なんてものが生まれないことを祈るばかりです。

　なぜなら、昼食のメニューをAIに押し付けられるより、その瞬間食べたいものを食べるというのも、人間として”アリ”だからです。

文／沢しおん
作家、ＩＴ関連企業役員。現在は自治体でＤＸ戦略の顧問も務めている。2020年東京都知事選に無所属新人として一人で挑み、9位（20,738票）で落選。

このコラムの内容に関連して雑誌DIME誌面で新作小説を展開。20年後、ＤＸが行き渡った首都圏を舞台に、それでもデジタルに振り切れない人々の思いと人生が交錯します。

これまでの記事はコチラ