日立、複雑なブラックボックス型AIを判断基準が明確なAIに変換する「AI単純化技術」を開発

昨今、深層学習等の技術の進歩によりAIの予測精度は向上したが、AIには精度だけでなく、説明性、透明性、品質、公平性など、信頼できるAIとして複数の要件が求められている。

そこで株式会社日立製作所は、従来のブラックボックス型AIを、判断基準が明確なAIに変換する「AI単純化技術」を開発した。

日立、複雑なブラックボックス型AIを判断基準が明確なAIに変換する「AI単純化技術」を開発
「AI単純化技術」の概要図。

従来のブラックボックス型AIは、予測精度を高めるために複雑な数式で構成されており、判断基準が不明確であるため、未知のデータに対して意図しない予測結果を導く不安やリスクがあった。

一方、今回の技術を用いたAIは、あらゆる入力に対して人が理解できる単純な予測式を創出することにより、明確な判断基準の下で予測結果を提示する。

具体的には、日立が従来提供していたeXplainable AI(XAI)分析技術により、AIへのさまざまな入力データに対し、要因である特徴量が予測値に及ぼす影響の強さ(貢献度)を算出する。

次に、特徴量が変化しても予測値への貢献度が一定である入力データの領域を、クラスタリング技術により抽出。抽出された入力データ領域では、その特徴量は予測値に影響を与えないため、その領域で判断基準を単純化できることを期待して、AIを単純な予測式に変換する。

このような処理を全ての入力データ領域で繰り返し、全領域を理解可能な単純な予測式に変換する。

日立、複雑なブラックボックス型AIを判断基準が明確なAIに変換する「AI単純化技術」を開発
ブラックボックス型AI変換技術の概要図。

また、ユーザーの経験や知識に基づき予測式を調整できるため、予測精度を維持・向上しながらAIを利用することが可能だ。

なお、この技術の一部は、日立グループにおける製品出荷前の自動検査ラインに適用され、熟練者不足の解消や検査速度の向上効果が確認されているという。