巨人の阿部監督辞任で露呈した「AI相談」の罠。ChatGPTを絶対視する子供たちの間で起きていること

今年5月、プロ野球・読売ジャイアンツの阿部慎之助監督（47）が長女（18）への暴行容疑で逮捕され、シーズン途中で辞任した。衝撃を与えたのは、その端緒だった。長女は父との喧嘩についてChatGPTに相談し、案内された児童相談所の窓口に電話をかけていた。そして、相談は本人の想定を超えて通報につながる－－。

悩みをAIに打ち明けることが当たり前になった子どもたちに、いま何が起きているのか。AI活用コミュニティ「SHIFT AI」を運営する、株式会社SHIFT AI代表の木内翔大氏に聞いた。

ChatGPTの案内は、正確だった

球団の発表によれば、発端は自宅での姉妹喧嘩だった。仲裁に入った阿部氏が、言い返してきた長女に腹を立て、襟元をつかんで投げ倒すなどしたとされる。長女にけがはなく、容疑を認めた阿部氏はまもなく釈放された。

会見で公表された長女の手紙に、経緯が綴られている。「殴る、蹴るなどといった事実はございません」とした上で、父との喧嘩をChatGPTに相談したところ、匿名で相談できる児童相談所があると案内された。だから電話をかけた。ところが「私自身の意向が聞かれることなく、警察に通報されるという形になってしまった」。「警察が来て、一番驚いているのは自分自身」だったと。

AIの案内は、情報としては正確だ。児相には匿名で相談できる窓口があり、嘘はついていない。それでも結果は、本人の想定を大きく超えた。

「AIは児童相談所や警察、労働基準監督署などの窓口を正確に案内します。情報としては正しいし、身の危険がある場合は、すぐに公的機関へつながるべきです。ただ、緊急性の判断がつかないまま、感情のピーク時に『今すぐ電話できる場所』を提示されると、次に何が起きるかを想像しないまま手続きが動き出すこともある。冷静なときには『選択肢の整理』になる機能が、感情のピーク時には『引き金』になり得る。ここが構造的なリスクです」

事件は6月15日、東京地検が起訴猶予として決着した。それでも通報した長女にはSNSで誹謗中傷が相次いだ。黄川田仁志・内閣府特命担当大臣は5月29日の会見で、そうした投稿を「絶対許されないものである」とした上で、「躊躇なく児童相談所に御相談いただきたい」と、窓口として「189（いちはやく）」と「親子のための相談LINE」を挙げて呼びかけた。

児相は虐待の疑いがある通告を受ければ、本人の意向より子どもの安全確保を優先して動く運用が一般的だ。ただし長女は18歳。児童福祉法が定める「児童」（18歳未満）には当たらず、今回の対応が制度上どう位置づけられるかを一概に語ることはできない。責められるべきは「相談したこと」ではない。問うべきは、AIとの対話だけで次の一手を決めてしまう構造のほうだ。

子どもは「叱らないAI」を絶対視する

今回の当事者は18歳だが、AIを相談相手にする流れは、もっと下の年齢にも広がっている。木内氏は、子どもがAIの回答を「絶対的な正解」と受け取りやすい理由を3つ挙げる。

「1つ目は、AIが『叱らない・否定しない』存在だからです。親や教師は正そうとして話すので説教や上から目線になりがちですが、AIはどんな質問にも共感的に応じる。子どもには『自分を否定しない、頭のいい相談相手』に見えます。

2つ目は即答性とパーソナライズ。自分の状況に合わせて答えが返ってくるので、『自分のために答えてくれた』と感じやすい。最も重要な3つ目が、子どもには『AIは間違える』という前提知識がまだ育っていないことです。大人はハルシネーション（もっともらしい嘘）を経験的に知っていますが、子どもは『賢い機械』と素朴に信じる。権威への服従ではなく、『中立で否定しない友達』として絶対視される。ここが従来の情報源と決定的に違うところです」

AIは「あなたから見た事実」しか知らない

AIが絡む家族間トラブルは、夫婦間にも広がっているという。喧嘩の後に「これはモラハラか」と聞き、「該当する可能性があります」という回答を”専門家の認定”と受け取る。まだ話し合いの段階なのに、慰謝料や養育費の目安を出させてから交渉に臨む。もともとあった不満に、AIが”客観的な根拠”を与えてしまう構図だ。

「家族の悩みや人間関係は、その家庭の歴史や文脈があって初めて理解できるものです。ところが人は無意識に『自分から見た事実』だけを入力する。AIはその偏った前提の上で『最適解』を出すので、相談者の視点を肯定する答えが返ってきやすい。いわば、意図せずエコーチェンバーになるわけです。

本来、人間関係の決断は当事者が悩み抜いて出すから納得感が生まれる。AIに言われて従うと、うまくいかなかったときに振り返る軸を失ってしまう。正解のない悩みに、AIは『それっぽい正解』を必ず返せてしまう。その『返せてしまう』ことこそが、最大のリスクです」

木内氏が勧めるのは、「答えをもらう」のではなく「思考を整理する」道具として使うスタンスだ。最初から「両方の立場で考えて」と聞く。「どうすべきか」ではなく「考えるべき論点」を出してもらう。そして、感情のピーク時には使わない。

禁止は逆効果。「AIだけで完結させない」

危ない使い方のサインは4つあるという。AIとの会話を隠す。「AIがこう言ってた」が判断根拠になり始める。家族や友人への相談が減る。深夜や感情的な状態で長時間使っている。ただし、サインが見えても使うこと自体を禁じてはいけない。禁じれば、子どもはさらに隠れる。

「今後、AIから離れて生活できる時代はもう来ません。だからこそ、家庭内でAIを『一緒に使うもの』にすることが本質的な対策です。『AIはこう言ってたけど、お父さんはこう思う』と並べて議論して、AIの答えを『複数の意見の一つ』として扱う文化を作る。

親が使っていないと、子どもは『親はAIを分かっていない』と判断して相談しなくなります。下手でいいので親自身がAIに触れ、子どもに教わる関係を作る。そのうえで、『困ったときは必ず人間にも話す』を家族の約束にする。AIに相談するなとは言わない。ただ、AIだけで完結させない。これを家庭のルールにするだけで、AIとの対話だけで動いた結果、本人も想像していなかった展開に驚く、というケースはかなり減らせます」

子どものスマホには、すでにAIが入っている。親に言えない悩みを最初に打ち明ける先がAIになる変化は、どの家庭でも静かに進行中だ。今夜の食卓で「最近、AIに何を聞いた？」と切り出してみる。家庭のAIリテラシー教育は、そこから始まる。

【識者プロフィール】
木内翔大（きうち・しょうた）
株式会社SHIFT AI代表取締役。国内利用者数No.1※1のAIのビジネス活用を学べるコミュニティ「SHIFT AI」を運営、有料会員数は4万人を突破した。一般社団法人生成AI活用普及協会（GUGA）協議員。GMO AI＆Web3株式会社 AI活用顧問、GMO AI＆ロボティクス商事 AI活用アドバイザーを務める。著書に『AIのド素人ですが、10年後も仕事とお金に困らない方法を教えて下さい! 最悪の未来でも自分だけが助かる本』（KADOKAWA刊）

※1 利用者数No.1　GMOリサーチ&AI株式会社調べ

取材・文／桜井カズキ