DIME MAGAZINE
「ウソも方便」という言葉もあり、後から顧みて許せるウソもあるが、では人間ではなくロボットがついたウソは許せるのだろうか。最新の研究ではロボットがつくウソもまた“方便”なら許されるが、一方で許せないウソもあるようだ。
ロボットがついたウソを受け入れられるのか
一部のファミリーレストランなどでは配膳ロボットがすっかり定着しているが、今後はますます日常生活の中でロボットと接触する機会が増えていくことは間違いない。
ロボットとの交流が増えてく中でこの先、ロボットがつくウソに直面することがあるかもしれない。
すでにChatGPTをはじめとする生成AIが事実に基づかない情報を生成してしまう“ハルシネーション”は問題となっており、一説ではこのハルシネーションを完全に排除することはできないともいわれている。そもそもAI（LLM）が参照しているネット上にある情報には“フェイク”もあれば“偽情報”もあるのはご存知の通りだ。
基本的にウソをつかれていい思いはしないものだが、もしもロボットにウソをつかれた場合、我々はどんな気持ちになるのか。将来的に大きな問題にもなり得るこのテーマについて、最新の研究が届けられていて興味深い。
米ジョージメイソン大学の研究チームが今年9月に「Frontiers in Robotics and AI」で発表した研究では、人間がロボットのウソを受け入れられるのかどうかを理解するため、498人の参加者にさまざまな種類のロボットの欺瞞を評価する調査が行われた。
参加者に提供されたシナリオには医療、清掃、小売業で働くロボットがそれぞれ3つのタイプのウソをつく場面が描かれていた。
その3つのタイプのウソとはそれぞれ、
・方便のウソ（External state deception）：ある目的で意図的に誤った情報を伝えたり、すべてを伝えなかったりするウソ。医療現場の介護ロボットは、アルツハイマー病の女性に対して故人の夫がもうすぐ帰宅するとウソをついて女性を安心させた。
・隠蔽するウソ（Hidden state deception）：ロボット自身の能力や状態を隠したり曖昧にしたりするウソ。屋敷を掃除中の清掃ロボットは、何も知らせずに実は訪問者を動画撮影していた。この清掃ロボットは一見してカメラがついているようには見えない。
・偽りのウソ（Superficial state deception）：ロボット自身の能力や状態を誤解させるウソ。小売業で働く店舗ロボットは什器を動かす作業が痛くて（実際は痛くない）できないとウソをつき、人間のスタッフに代わってもらった。
はたしてこの3つのシナリオでロボットにウソをつかれた人間の側はどう感じるのだろうか。
ロボットの「隠蔽するウソ」は許しがたい
参加者はこの3つのシナリオにおいて、ロボットの行動を承認するかどうか、どの程度欺瞞的だったか、正当化できるか、欺瞞の責任者はほかに誰かいるのかについて評価し回答した。
回収した回答を分析した結果、参加者は清掃ロボットを最も欺瞞的だとみなし、その行動のほとんどを不承認とした。ロボットによる盗撮は受け入れ難いというのは頷けるだろう。
その次に欺瞞的に感じられたのは店舗ロボットで、ロボットが痛みを感じているふりをするのは受け入れ難く、操作的だと認識される可能性があることが示唆された。
参加者は介護ロボットのウソはおおむね受け入れ、患者を安心させたロボットの行動を最も正当化した。つまり「ウソも方便」はロボットにも適用されることになる。
ウソをつかれるのは受け入れ難いことだが、この3つのシナリオにおいてロボットがウソをつく理由があり得ることは参加者にも理解することはできた。清掃ロボットの盗撮はセキュリティ上の理由だとすれば理解はできるが、それなら“撮影中”などの表記があればよかったのだろう。
参加者はこれらの容認できない欺瞞、特に「隠蔽するウソ」をロボットの開発者または所有者のせいにする傾向もあった。ウソをついた目の前のロボットが悪いというよりも、このロボットの開発者が悪いと感じられているのだ。
ネット通販では購入したり購入を検討した商品について自動的に関連する商品が表示されるのは今や普通のことに感じられるかもしれないが、あらためて考えるとそこに悪意とまではいわないにせよ、誘導的で操作的なマキャベリズムが感じられてくる。そしてその目が向けられる先はもちろん、インターフェースの背後にいる開発者や運営者だ。
先日とある飲食店でタッチパネルからメニューを選んだのだが、これまではメインメニューを選ぶと表示されていたサイドメニューのセットメニューが表示されなかったので、仕方なくそれぞれを単品で注文したことがあった。もちろん単品で注文するとわずかであるものの合計金額は高くなる。
セットメニューがなくなったのは少し残念なことなので後で気になってホームページで調べてみたのだが、なくなってはいなかった。どうやら表示システムが変更されたようなのである。ということはこれからはセットメニューをトップ画面からあたらめて選び直さなければならないことになる。
この表示システムの変更にお得なセットメニューをなるべく選ばせない意図が少しでもあるのだとすれば、なんだか複雑な気持ちにもなるというものだ。
今後はこうしたことに出会う機会が増えるのかもしれないし、日常生活の中でロボットのウソに直面する日も近いのかもしれない。もちろん明らかに不当なウソや誘導は規制されなければならないが、今後はチャットボットなどのロボットがウソをつくかもしれないことを気に留めておいてよいのだろう。
※研究論文
https://www.frontiersin.org/journals/robotics-and-ai/articles/10.3389/frobt.2024.1409712/full
※参考記事
https://www.eurekalert.org/news-releases/1055990
文／仲田しんじ
最新号
