画像識別AIの誤識別リスクを効果的・効率的に低減する技術を開発

　情報・システム研究機構 国⽴情報学研究所のアーキテクチャ科学研究系 准教授 ⽯川冬樹らの研究チームは、九州⼤学⼤学院 システム情報科学研究院 情報知能⼯学部⾨ 准教授 ⾺ 雷らの研究チームとともに、画像識別AI の誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構の未来社会創造事業Engineerable AI プロジェクト(*1)（通称eAI プロジェクト、研究開発代表者︓NII アーキテクチャ科学研究系 准教授 ⽯川 冬樹）によるものです。
深層ニューラルネットワーク（以下DNN: Deep Neural Network）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下（デグレ）を発⽣させる問題があります。
　本プロジェクトでは、役割の異なる複数のDNN 修正技術を組み合わせ、画像識別⽤DNN を狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正⽅法を発⾒する技術（NII）、パラメーター修正と誤識別改善の履歴情報を利⽤することで修正による低下を抑制する技術（NII）、パラメーター値だけでなくDNN の基本構造⾃体も修正する技術（九⼤）などに取り組んできました。
　⾃動運転AI 向けの実験では、⾃動⾞企業などを交えて定めた安全性ベンチマークで評価を⾏い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。
　今後、開発した修正技術をフレームワークとして統合するとともに、⾃動運転のあり⽅に関するビジョンやポリシー、⾛⾏データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいきます。
　NII、九⼤の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ICST 2023(*2)で2023 年4 ⽉（アイルランド時間）、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023(*3)で2023 年3 ⽉23 ⽇（マカオ時間）、ソフトウェア⼯学に関するフラッグシップ雑誌TOSEM(*4)で2023年内に発表されます。

• 本研究の詳細についてはこちら

【論⽂タイトルと著者（NII）】
タイトル︓ Distributed Repair of Deep Neural Networks
著 者︓ Davide Li Calsi, Matias Duran, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
発表会議︓ The 16th IEEE International Conference on Software Testing, Verification and Validation (ICST 2023)
発 表 ⽇︓ 2023 年4 ⽉16〜20 ⽇（調整中） ⼝頭発表予定（アイルランド時間）

【論⽂タイトルと著者（九⼤）】
タイトル︓ ArchRepair: Block-Level Architecture-Oriented Repairing for Deep Neural Networks
著 者︓ Hua Qi, Zhijie Wang, Qing Guo, Jianlang Chen, Felix Juefei-Xu, Fuyuan Zhang,Lei Ma, Jianjun Zhao
掲 載 誌︓ ACM Transactions on Software Engineering and Methodology (TOSEM)
発 表 ⽇︓ 2023 年予定

【論⽂タイトルと著者（NII、富⼠通）】
タイトル︓ An Experience Report on Regression-Free Repair of Deep Neural Network Model
著 者︓ Takao Nakagawa, Susumu Tokumoto, Shogo Tokui, Fuyuki Ishikawa
発表会議︓ The 30th IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2023, Industry Track)
発 表 ⽇︓ 2023 年3 ⽉23 ⽇（⽊）⼝頭発表予定（マカオ時間）

システム情報学研究院　趙 建軍　教授
システム情報学研究院　馬 雷　准教授