富士通研究所と北海道大学、望む結果を得るために必要な手順を自動で提示できる「説明可能なAI」を開発

AI分野では、データから自動的に判断するだけでなく、個々の判断理由を与えてくれる「説明可能なAI」や、望ましくない判断結果に対して、改善するための項目を提示するAI技術が注目されている。しかし、これらの技術は個々の項目に関して、これをしておけば良い結果が得られたという仮定の改善項目は示すが、判断結果を改善していくための手順などは提示されなかった。

株式会社富士通研究所と国立大学法人北海道大学は、AIが自動判断した結果を基に、望む結果を得るために必要な手順を自動で提示できる技術を開発した。

例えば、健康状態を判断するAIが不健康と判断した場合、身長や体重、血圧などの健康診断項目のデータから不健康の判断理由を説明するだけでなく、健康になるための最善策を提示してほしいというニーズに対して同技術を適用することで、過去データから複雑に絡み合った多数の診断項目間の相互作用を特定し、実現の可能性や実施の難易度を考慮した上で具体的な改善手順を示すことができる。

人の意思決定を支援するためのAI技術としてこれまでに開発されてきたLIME(※1)やSHAP(※2)といったAI技術は、AIがなぜこのように判断したかを説明することで、その判断結果に納得性を与える技術だった。

今回、両者による共同研究において開発した新技術は、反実仮想説明(※3)という考えに基づき、属性変更におけるアクションとその実施順序を手順として提示する。過去の事例の分析を通して非現実的な変更を避けつつ属性値の変更がほかの属性値に与える因果関係などの影響をAIが推定し、それに基づいて実際に利用者が変更しなければならない量を計算することで、適切な順序かつ一番少ない労力で最適な結果が得られるアクションの提示を可能にした。

例えば、健康診断で望む結果にするために変更する入力属性とその順序において、リスクを低くするためには筋肉量をプラス1kg、体重をプラス7kg変更しなければならない場合に、筋肉量と体重の間の相互作用を事前に分析することにより、筋肉量を1kgプラスすれば体重は6kgプラスされるというような関係が因果関係の分析により推定できる。

その場合、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。つまり、実際に変化させなければならない変更量は、筋肉量プラス1kgと体重プラス1kgであると言えるため、先に体重を変化させるよりも少ない労力で望む結果を得ることができるという。

今回、共同開発した反実仮想説明AI技術を用いて、この分野で主に用いられる糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットにて検証を行った。

具体的には、機械学習の主要なアルゴリズムであるロジスティック回帰(※4)、ランダムフォレスト(※5)、多層パーセプトロン(※6)の3つのアルゴリズムと開発技術を組み合わせ、AIの判断結果が望ましくない場合に、望む結果を得るためのアクションの提示を目的とした検証を行った。

その結果、今回の開発技術がすべてのデータセットおよび機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得できたことを確認し、特にローンの与信審査のケースでは、半分以下の労力を実現した。

同技術を活用することで、AIによる自動判断において望ましくない結果が予想された場合に、その結果を望む結果に変えるために必要なアクションを提示することが可能となる。これにより、AIの用途を判断だけでなく人の意思行動の支援に拡げることができ、AIの適用先のさらなる拡大が期待できるという。

今後、富士通研究所は、個別の因果関係を発見する技術と組み合わせることで、より適切なアクションを提示できるよう継続して取り組む。そして独自開発した「FUJITSU AI Technology Wide Learning」によるアクション抽出技術を同技術により拡張し、富士通株式会社のAI技術「FUJITSU Human Centric AI Zinrai」を支える新たな機械学習技術として2021年度の実用化を目指すとしている。

※1 LIME:AIの説明技術の一つ。解釈可能なシンプルなモデルによって説明する。
※2 SHAP:AIの説明技術の一つ。モデルにおける説明変数の寄与度を示すことにより説明する。
※3 反実仮想説明:「もしこれをしていれば結果はこうなっていた」というように、事実とは異なる状態を示し説明する手法。
※4 ロジスティック回帰:機械学習アルゴリズムの一種。超平面にロジスティック関数を組み合わせた確率モデル。
※5 ランダムフォレスト:機械学習アルゴリズムの一種。多数の決定木分類器で多数決を行って安定した判断をする予測モデル。
※6 多層パーセプトロン:機械学習アルゴリズムの一種。多層のニューラルネットワークを学習するモデル。

プレスリリース提供:富士通研究所

Previous

ドコモgacco、オンライン研修サービス「gacco ASP」の新サービス「gacco ASP e-パック」を提供開始

ドコモ、海外通信キャリアに最適なオープンRANを提供する「5GオープンRANエコシステム」を協創

Next