DIME MAGAZINE
【連載】もしもAIがいてくれたら
【バックナンバーのリンクはこちら】
第1回：私、元いじめられっ子の大学副学長です
第65回：メタバースにAIを活用して得られる〝リアルなアバター〟は本当に必要なのか？
自動運転車の“目”は操作できる
2022年4月6日、中国の浙江大学、香港中文大学、米シカゴ大学による研究チームの論文によると、
「自動運転車に搭載されるカメラをレーザー光で攻撃すると、信号機の認識を錯覚させることができる」
という方法を実証し、システムの脆弱性を指摘しています。赤信号を青信号に、青信号を赤信号に意図的に誤認識できるとしたら、交通事故を引き起こすといったテロ行為に悪用されかねません。
自動運転は、大手自動車メーカーからスタートアップ企業まで、様々なアプローチで開発競争を繰り広げています。周囲を認識するセンサーには、主に「カメラ」、「レーダー」、「LiDAR（パルス状にレーザーを照射し、その散乱光を測定することで対象物までの距離や性質を測る仕組み）」がありますが、テスラ車は詳細な3D画像を取得できるLiDARセンサーを使用せず、カメラから得られる画像情報をAIで処理だけでオートパイロットを作動させています。
私がプロデュースするVTuberが公開したYouTube動画でも触れているのですが、そもそも、攻撃云々以前に、テスラ「Model 3」は一般道の信号機を正しく認識するのが難しいようです。
（fuwari channel https://www.youtube.com/watch?v=3nq2MSyhQVQより）
オートパイロットではなく完全に自走しているので、人間の目で見て信号が赤だったから停止線で止まっているわけですが、ドライブモニターに映し出されている信号機は青になっています。もしも先頭を走っていて、信号機だけで止まることが想定される完全自動運転だったら、止まれないことになります。
車線と停止線の認識は完璧なようですが、動画をご覧いただくとわかるように、本当は赤信号なのに手前の信号機が青信号として表示されたり、赤と青が頻繁に切り替わってしまったりしていました。自分の車が見るべき信号機と、その先にある信号機、歩行者用信号機の複数が映り込むことが影響しているのでしょうか。都心は信号機が多すぎてノイズが多いためか、1台1台の信号機の赤と青の認識の挙動自体がおかしいです。
どうすれば自動運転の「信号認識」は改善するのか？
こういったことへの対策としては、やはり3次元地図上で信号機の位置を管理し、常に自車の位置と信号機の相対位置を把握しながら走行する必要があるかと思います。カメラはモノの形状、色、車線など詳細に認識できる解像度の高さが強みですが、距離や速度による相対的位置の把握が難しいです。一方、LiDARはセンサーからレーザーを照射して、周囲100m程度の近距離の障害物までの正確な距離や速度を把握できる強みがあります。
コスト面では、LiDARも値下がりはしてきていますが、カメラの方が安価なので、経営的にはLiDARよりカメラを優先したいかもしれません。しかし、安全を考えると、使えるものは全部使って出ても安全対策を重視してほしいものです。複数採用していれば、何か一つ誤作動を起こしても、リカバリの可能性があるかもしれません。
カメラやレーダーもより高性能のものが開発され、テスラのようにソフトウェアのアップデートを反映できる車の場合は、安全性は高まっていくと思われますが、冒頭紹介したカメラをレーザー光で攻撃するといったリスクも懸念されますので、自動運転車を実際に走行させるには、攻撃に強いインフラ整備も進める必要があるでしょう。
現在の信号機を前提にその認識精度の話をしてきましたが、そもそも現状の信号機ではなく、自動運転車を前提とした新たな方法の導入もありえます。19世紀に鉄道で信号機が誕生し、道路では1918年にアメリカのニューヨークの五番街に、1930年に東京日比谷交差点に登場して以来、多少の多様性はありつつも多くの国で当たり前になっている信号機ですが、自動運転車がその歴史を変えていくかもしれません。
坂本真樹（さかもと・まき）／国立大学法人電気通信大学副学長、同大学情報理工学研究科/人工知能先端研究センター教授。人工知能学会元理事。感性AI株式会社COO。NHKラジオ第一放送『子ども科学電話相談』のAI・ロボット担当として、人工知能などの最新研究とビジネス動向について解説している。オノマトペや五感や感性・感情といった人の言語・心理などについての文系的な現象を、理工系的観点から分析し、人工知能に搭載することが得意。著書に「坂本真樹先生が教える人工知能がほぼほぼわかる本」（オーム社）など。
最新号
