「AIを知ることは己を知ること」ChatGPTへの不安に振り回されないための意識改革

TOKYO2040 Side B 第24回『AIを知り己を知れば百戦危うからず』

※こちらの原稿は雑誌DIMEで連載中の小説「TOKYO 2040」と連動したコラムになります。是非合わせてご覧ください。

　ChatGPTの登場で、ここ二ヶ月くらいでIT関連の話題が「すべて持っていかれた」感がありますね。早速7月号のDIME本誌でも活用術が特集されていますので、お読みいただければと思います。

　自治体によるChatGPTの採否を巡るニュースや、G7での「責任あるAI」合意に見られる深謀遠慮など、単なるITサービスとしての面白さを超えて、人類の命運を左右するトピックと言われても納得してしまいそうになります。去年一昨年とあんなに盛り上がっていたWeb3やメタバースの話題が霞んで見えてしまうのも仕方のないことなのでしょう。

参考：「ChatGPT」 神奈川の市役所では“全国初”業務導入 – NHK

　このコラムでも何度かAIについては触れてきており、DIME本誌での連載小説『TOKYO2040』でも「デジタルアイデンティティ」とともにAIは重要なモチーフとして扱っているのですが、今回のChatGPTブームは、技術のインパクトや将来の社会や経済においてどのような位置づけになっていくかということへの興味もありながら、「チャット」という親しみやすいインターフェースで誰にも効果がわかりやすかった、というのがブームの担い手たる理由になっているように思えます。

行き過ぎたデジタルIDは本当にディストピアを招くのか？

TOKYO2040 Side B 第23回『行き過ぎたデジタルIDは本当にディストピアを招くのだろうか？』 ※こちらの原稿は雑誌DIMEで連載中の小説「TOKY...

チャット相手が人間という”贅沢”

　これまでもeコマースサイトでの問い合わせ用チャットボットなど、こちらが文字を入力するとそれに合わせた回答を文字で返してくるサービスはありました。けれども、質問に対してあらかじめ用意された文例から出力しているだけで回答が噛み合わないことも多く、FAQページをわざわざチャットというインターフェースにしただけでは、顧客満足度の点で微妙な評価をせざるを得ないケースもありました。

　しかしながら、Webサイトから問い合わせ用のチャットを使っていると、セールスのクロージングやクリティカルな問題に差し掛かると明らかに「中の人」、つまりオペレーターさんに入れ替わることが往々にしてあります。入り口をチャットボットに捌かせることで、露払いとしての運用コストは低く抑えられているのだと想像できます。

　利用者が欲しかった内容にたどり着くことよりも、その内容を提供できるオペレーターの手が空くまでの時間稼ぎ、といったほうが的確かもしれません。

　考えてみればメールやチャットボットが登場するよりも前の時代は、電話での問い合わせといえば待たされるもの、延々と単音で奏でられるクラシック音楽の保留音を聴かされ続けるもの、と相場が決まっていましたね。

　ですが、それはサービスの提供側の都合であって、利用者にとっては最初から人間に対応してもらったほうが問題の解決が早く、時間の節約になるのではと思えます。

　今後、人口減が予測される中で人との対話を求めようとすると、より一層「待たされる」機会が増え、代わりにAIが対応することが一般的になりそうです。もちろん、一年前にこのChatGPTのブームが予想できなかったように、ある時突然カスタマーサポートに特化したAIが業界地図を塗り替えるかもしれません。

　そうなれば解決できることはもっと多くなると思いますが、今のところ、人間との対話は万能なインターフェースであり、「相手が人間であるという事実」は贅沢なものになりつつあるといえます。

ChatGPTへの不安に振り回されないために

　もちろん、ChatGPTのブームをインターフェースだけの勝利だと断定してしまうのは乱暴な話でして、無料で使えるGPT-3.5でさえ1750億個のパラメータという途方も無い量の学習がされていて、使ってすぐ「これはすごい！」という体験に繋がったことも大きいです。

　それよりも前のGPT-2は、数年前から小説を書かせる試みにも使われるなどしていつつ、出力された文章がしっくりこない出来でしたので、発展を生暖かく見守るか、という程度の距離感でした。それが一気に距離を詰めてきて、GPT-4になり、APIやプラグインの充実によってユーザーとともにさらにとんでもない領域へ飛んでいく、という感覚があります。

　それ故に、とくに無料版のChatGPT（GPT-3）との対話の中で「ハルシネーション（架空のものが出力されること）」が発生すると、それだけでAIは間違いを出力すると考えてしまったり、学習に問題はないのか、出力されたものは著作権がクリアになっているものなのかなどの不安は尽きないものと思われます。

　ChatGPTを使用するにあたっての不安は、インプットからアウトプットまでの段階によって概ね3つに分けられると考えています。

それは、

（1）何をどう入力するか
（2）何が生成されるのか
（3）出力文をどう捉えるか

です。

　まず（1）なのですが、おおよその不安は「入力した文章が学習されて、遠く離れた別の人との対話に使われてしまわないか」というところにあると思います。「AIの学習」という内容がどういう動作なのか、意味がわかりませんし、率直に言って怖いですよね。

　ChatGPTの「Settings（設定）」から、「Chat Histry & Training（学習）」のスイッチをオフにすれば、入力した内容が学習に利用されることはなくなります。ただし、悪用予防のために30日間は履歴が残ります。（2023年5月現在の内容です）

　もちろん、仕事で使用したいのであれば個人情報や守秘義務のある内容は入力しなければよく、これはChatGPTだけの課題ではなく、どんなWebサービスの入力欄でも必要な配慮かと思います。

　日本では著作権法によって、著作物をAIが学習することは妨げられていません。このため、自分の質問の仕方によってはChatGPTから他人の著作物がまるまる出力され、それを自分が知らずに使ってしまう……ということに陥ってしまうのではないか、という不安も湧いてくるかもしれません。これについては（2）と（3）でカバーできるのではないかと思っています。

（2）なのですが、これはDIME本誌の12ページを見ていただくのがいちばん早いですが、簡単に言うと、ChatGPTの肝となる「大規模言語モデル」は、あくまで言語を扱っているに過ぎず「人間のような思考を持つAIコンピュータが入力された文章を逐一目を通して内容を理解している」というわけではないのです。

　人工知能と呼ばれますが、「語と語の繋がりとその出現確率」がその正体と言っても過言ではありません。文章として心地よいものが紡がれ、内容の正誤へのこだわりはないのです。

　ですので、ChatGPTによって学習されるものや生成されるものについて、得体のしれない不安を感じる必要はありません。

　そして（3）ですが、これが一番大切ではないかと思います。ChatGPTが出力してきた文章を鵜呑みにせず、他の検索サイトや書籍をあたって「裏をとる」「確認をする」というプロセスを1つ挟むということの必要性です。

　新入りのアルバイトさんが、あるいは締め切りに追われて一夜漬けの学生さんが、何らかのレポートを出してきたとします。上司や指導員であるあなたは、必ず「焦ってエビデンスの無いことをでっち上げていないか？」「どこからかコピペしてきていないか？」と細かくチェックし、おかしなところは修正したり、誰かの作成物のコピーなら突き返すなりをすると思います。

　あるいは、マンガやアニメで「2021年9月からタイムスリップしてきたのでそれ以降のことは知らないし、虚言癖があるくせに、たまに芯を食った本当のことを言うから余計に始末が悪い」というサブキャラクターを設定したとして、主人公はどう接するかを考えてみてください。

　ChatGPTとの対話はそもそもこういった状態であると割り切ることで、しかしながら、「修正や添削の手間を考えても、自分がゼロからやるより何倍も速い」場合に使う、というのがポイントです。

　エビデンスの曖昧な内容の精査はとてもコストがかかる行為なので、自分がパッと見てわかる分野でならだいぶ楽に使いこなせるでしょう。もちろん判断するために自身の知識や教養を深めておくにこしたことはありません。

　そして、なるべく出力を安定させるために、入力（プロンプト）を工夫していくことになります。相手に誤解が発生しないように、条件を設定して的確に指示を出す。他の解釈の余地を与えない。昔習った「5W1Hをハッキリさせる」なんてのを思い出しますね。

……いや、人を相手にして仕事をするときも、こんな感じにしないと上手くいかないことのほうが多いですよね？

　誰かに指示を出した際に意図しない結果が返ってきた場合、指示内容に抜け漏れや解釈によって違う角度の回答が出かねない余計な幅があったのではないか、と省みることがあると思います。

　もしかすると、ChatGPTへの質問が上手くなればなるほど、仕事での指示だしも上手くなるかもしれませんね。

人間らしさは人間のもの

　AIについて考えれば考えるほど、かえって人という存在はどういうものなのか、という思索が深まります。ネットでよく「算数が苦手な子どもは、例えば足し算を適当な数を言って当てるゲームだと勘違いしている」とか「話を合わせるのは得意でコミュニケーションはスムーズにみえるのに、話の内容を一切理解していない人」といった話題が出てくると、何かと悲観的な揶揄を感じてしまうのですが、AIとの最大の違いは「そこだけではない」に尽きると思います。

　どれだけ技術的な革新が起ころうとも、コンピュータはあくまで人間が用いるツールであるということに変わりはありません。おそらく今後も性能が上がり続けますし、親しみやすいユーザーインターフェースが開発されればされるほど、人間が人間である重要性は一層増していくことと思われます。

　さて、DIME本誌での連載『TOKYO2040』最新話では、「人間に似すぎているAI搭載型アンドロイド」という若干SF的な存在について、その裏をかいた事件（？）が明らかになります。AIが人の真似をできるようになるなら、人もAIの真似をするようになる。そういう未来がいずれ来るかもしれません。

　ChatGPTを始めとした活用術が特集されている7月号は、全国書店・コンビニで販売中ですので、ぜひお求めください！

文／沢しおん
作家、ＩＴ関連企業役員。現在は自治体でＤＸ戦略の顧問も務めている。2020年東京都知事選に無所属新人として一人で挑み、9位（20,738票）で落選。

このコラムの内容に関連して雑誌DIME誌面で新作小説を展開。20年後、ＤＸが行き渡った首都圏を舞台に、それでもデジタルに振り切れない人々の思いと人生が交錯します。

これまでの記事はコチラ

ビジネスの核心を司る「デジタルアイデンティティ」の指南書

https://www.shogakukan.co.jp/books/09389106