三菱電機がAIの動作を短時間で漏れなく検証する技術を開発

2025.03.03

三菱電機は、決定木アンサンブルモデル（※1）を対象とした「AIの動作を短時間で漏れなく検証する技術」を開発。2025年2月26日にリリース発表を行なった。

本技術は当社AI技術「Maisart（マイサート）（※2）」の開発成果で、同社は「AIが期待に反する動作（誤動作）を行うリスクを低減し、安心してAIを利用できる社会の実現に貢献します」とコメントしている。
※1　データを条件に基づいて分割して予測を行うモデルである決定木を複数組み合わせて予測精度を向上させるAI手法
※2　Mitsubishi Electric’s AI creates the State-of-the-ART in technologyの略。全ての機器をより賢くすることを目指した三菱電機のAI技術ブランド

本技術の開発背景

AIが急速に発展して世界的に普及が進む中、AIに関する世界初の包括的な法的枠組みを定めた「欧州AI規制法」が2024年8月1日に発効された。

また各国でも同様に、AIのリスクに対処するための法令やガイドラインの整備が進められており、AIを開発・提供する事業者には、リスクを適切に管理することが求められている。

特に機器の自律制御、電力など社会的インフラ、さらにサイバーセキュリティーなどの安全性が重視される各システムにおいては、誤動作時に発生する損害の大きさからAIの信頼性が絶対条件となる。

通常、AIの信頼性評価は、AIモデルの学習に用いていない有限個のテストデータで正解率などの指標を評価するが、AIの動作は非常に複雑で、仮にテストを実施した際の正解率が100％であっても、テストしていないデータでの誤動作リスクを排除できないという問題があった。

この問題に対して、AIに期待する動作をあらかじめ設定し、期待どおりに動作しているかを厳密に漏れなく検証する網羅検証の手法が提案されている。ただし、AIモデルのサイズが大きいと検証に膨大な時間がかかることや、誤動作リスクの大きさが不明で対処の優先度を判断しづらいことなどを理由に、網羅検証を実施するケースは限定的となっていた。

そこで同社では今回、網羅検証における問題を解決する技術として、数値データの予測などに広く用いられる決定木アンサンブルモデルに対して効率的に網羅検証を行う新たなアルゴリズムと、これを用いた対話的な検証ツールを開発した。

本技術を活用することで、AI開発者は網羅検証のサイクルを高速で循環させることができるため、AIの誤動作リスクを低減することが可能となるという。

本技術の主な特徴

■効率的な網羅検証を行なうアルゴリズムを開発、AIの誤動作リスクを短時間で検証

・決定木アンサンブルモデルに対して、効率的に網羅検証を行うアルゴリズムを開発。これにより、AIが期待どおりに動作しているかを厳密に漏れなく検証可能
・AIに入力するデータの範囲を再帰的に分割して検証することで、網羅検証における従来の手法と比べて数十～数百倍高速（※3）に検証できることを確認

■直感的に操作できる対話的な検証ツールで誤動作リスクへの適切な対処を支援

・ブラウザベースのGUIを介して、ユーザーが直感的な操作で網羅検証を実施できるツールを開発。学習済みのAIモデルを読み込み、AIに期待する動作を設定することで、ワンクリックで検証を実行
・検証結果として合否の割合を表示することで、AI開発者が誤動作リスクの大きさを把握可能
・誤動作の発生条件ごとの発生率を色の濃淡で表したリスクマップとして図示することで、AI開発者の誤動作リスクへの適切な対処を支援