AIが「なぜ異常と判断したか」を波形で示す反事実波形生成技術を開発

九州大学マス・フォア・インダストリ研究所（以下、IMI）は、株式会社東芝との共同研究により、インフラ設備や製造装置の異常検知AIにおいて、「AIがなぜ異常と判断したのか」を波形の違いとして可視化できる「反事実波形生成技術」を開発しました^（*1)。本技術は、AIが異常と判定したセンサ波形に対し、正常と判定されるためにはどの部分をどのように変えればよいかを波形として生成するものです。これにより、AIの判定根拠を局所的な波形の違いとして可視化でき、現場の専門家が判定理由を直感的に理解できます。本技術は、説明可能AI (XAI) における反事実説明の考え方を時系列波形データに応用したものです。従来、時系列波形データを対象とする多くの説明可能AIはニューラルネットワークを前提としていましたが、本技術は、ニューラルネットワークよりも高性能な判定AIや、異常データを事前に収集しにくい異常検知にも適用できます。公開時系列データセットで評価した結果、同種の従来技術と比べて、元波形からの不要な変形を抑えた高品質な反事実波形を生成できることを確認しました。

本技術の詳細については、5月2日から5日にかけてタンジェ（モロッコ）で開催される機械学習・統計科学分野におけるトップクラスの国際会議であるAISTATS (International Conference on Artificial Intelligence and Statistics) において、5月3日に発表しました。

（*1）
九州大学プレスリリース
https://www.kyushu-u.ac.jp/ja/notices/view/2860

株式会社東芝プレスリリースhttps://www.global.toshiba/jp/technology/corporate/rdc/rd/topics/25/2503-02.html

国際会議名：The 29th International Conference on Artificial Intelligence and Statistics (AISTATS 2026)
タイトル：Counterfactual Explanations via Latent Structure for Time Series Classification
著者名：Akihiro Yamaguchi, Shizuo Kaji, Kaname Matsue, Ryusei Shingaki

• 本件の詳細はこちら