AIの思考を解き明かす！

• 従来の視覚化ツールではニューラルネットワーク内のデータ処理を正確に理解することが困難だったため、新しい手法が求められていた。
• 本研究グループは、新しい視覚化手法「k* Distribution（ｋ*分布）」を開発し、3つのデータ整理パターンを発見した。
• これらの方法はAIの思考を理解するための革新的な手段を提供する。

これまで、研究者たちはディープニューラルネットワーク^（※１）がデータをどのように整理しているかを、t-SNEやUMAPのようなツールを使って視覚化していました。しかしこれらのツールは重要な詳細を歪めることがあり、特定のデータグループがどのように扱われているかを把握することが困難でした。
九州大学大学院システム情報科学研究院のヴァスコンセロス ヴァルガス ダニロ准教授らの研究グループは、ニューラルネットワークの隠れた層の中でデータがどのように整理されているかをより明確に見ることができる新しい方法「k*分布」を提案しました。k*分布という新しい方法を使用することで、研究者はこれらのパターンを正確に視覚化し、分析することができました。この方法により、以前のツールよりもデータの構造をしっかりと保持し、異なるグループを簡単に比較できるようになりました。
この研究は、AIの「思考」を理解するための革新的な手段を提供します。さらにAIの改善だけでなく、画像の処理方法に応用することで、より優れた診断ツールの開発につながる可能性もあり、将来の研究や実世界での応用に役立てることができると期待しています。

本研究成果は国際雑誌「IEEE Transactions on Neural Networks and Learning Systems」に2024年9月16日（月）（日本時間）にオンライン版で早期公開されました。

ニューラルネットワークにとって最も重要なことは、新しい手法の開発ではなく、それらを新たな視点で理解する方法であると言えるでしょう。私たちの可視化は、AIに対する化学元素のスペクトルのように機能します。それは、ニューラルネットワークを改善する方法や、実際に何をしているのかに新たな光を当てます。したがって、今回の発見は、可視化が人工知能の進歩の主要な支柱であるため、あらゆる応用AI分野でますます活用されるでしょう。

（※１） ディープニューラルネットワーク
人間の脳のように情報を学習し、認識するために多層の計算構造を持つ人工知能の仕組みです。

掲載誌：IEEE Transactions on Neural Networks and Learning Systems
タイトル：k* Distribution: Evaluating the Latent Space of Deep Neural Networks Using Local Neighborhood Analysis
著者名：Shashank Kotyan; Tatsuya Ueda; Danilo Vasconcellos Vargas
DOI：10.1109/TNNLS.2024.3446509

本件の詳細についてはこちら

システム情報科学研究院 VASCONCELLOS VARGAS DANILO 准教授