AIには信頼が必要：マイクロソフトがAIの開発と活用にあたって重視すべき6つの倫理的要件を発表

マイクロソフトは、人工知能（AI）の開発と活用にあたって重視すべき次の6つの倫理的要件を発表した。

プライバシーとセキュリティ
透明性
公平性
信頼性
多様性
説明責任

以下は、Microsoft Asia プレジデントのラルフハウプター (Ralph Haupter) 氏が述べた内容です。

人工知能 (AI) の技術開発は加速しており、ヘルスケア、教育、気候変動への対策、穀物生産など、人間のあらゆる営みにおいて大きな進化を遂げている。AI を人間の創造性と組み合わせることで、個人の可能性は最大化され、すばらしい成果を達成できるようになる。

たとえば、世界中のマイクロソフト研究所は、人類にとって最も深刻な疾病のひとつである癌の治療法を試験管や医療機器ではなく、AI と機械学習により発見しようとしている。

機械学習と自然言語処理を活用することで、マイクロソフトは世界の癌専門医に対して、膨大な研究資料を調査するための直感的な方法を提供し、患者に対して最も効果的で個別化された癌治療法を発見できるよう支援している。

マイクロソフトのもうひとつの取り組みでは、機械学習とコンピュータービジョンの組み合わせにより、放射線科医が患者の腫瘍の進行状況を詳細に把握し、その治療法を発見できるよう支援している（トップ写真）。

AI が信頼と倫理に関する複雑な問題を提起

AI に社会の最も困難な課題を克服する可能性があることは明らかだが、その可能性を最大化するためには、大量のデータを収集し、集約し、共有することが不可欠だ。

そして、この点は、ユニバーサルアクセス、プライバシー、透明性などに関する倫理上の議論を引き起こす。ある意味で、AI は私たちのテクノロジとの関わり方を大きく変化させており、私たちはテクノロジの信頼とは何かを再考することが必要になっている。

さらに、社会的レベルで言えば、AI による意思決定プロセスの強化が続く中で、どのようにすれば AI があらゆる人を公平に扱うようにできるのだろうか。普及が進むだけでなく、ますます知的で強力にもなっていく AI システムの説明責任を人や組織が負っていくようにするためには、どうしたらよいのだろうか。

これらはAI の普及が加速する中、個人、企業、そして、政府が熟慮し、分析し、解明しなければならない重要な疑問点だ。

AI の可能性をフルに発揮するためには、信頼という堅固な基盤が必要であるとマイクロソフトは考えている。AI ソリューションが最大限のセキュリティ、プライバシー、安全性を提供できなければ、ユーザーは使用しないだろう。

AI の恩恵を最大限に享受するためには、私たちはこれらの質問への答えを見つけるために協力し、人々が信頼できるシステムを構築しなければならない。

AIへの信頼を構築する

マイクロソフトは、最終的に AI が信頼できる存在であるためには、透明性、安全性、多様性に加えて、最高水準のプライバシー保護を維持しなければならないと考えている。そして、AI によるソリューションの開発と展開の中核にあるべき、以下の 6 つの基準を設定した。

1.　プライバシーとセキュリティ

他のクラウドテクノロジと同様に、AI システムは、データの収集・使用・保存を規制するプライバシー法に準拠し、個人情報がプライバシーの基準に合致して使用され、悪用や盗難から保護されるよう保証しなければならない。

2.　透明性

AI の人々の生活への影響が増すにつれ、どのようにしてAIが判断したかを人々が理解できるようAI システムの機能に関する背景情報を提供し、潜在的な偏見、エラー、予期せぬ結果を容易に特定できるようにしなければならない。

3.　公平性

AI システムが、たとえば、病気の治療や雇用に関する判断を行う時には、同様の症状または技能の者であれば誰に対してでも同じ判断を行うべきだ。公平性を保証するためには、バイアスがAI システムにどのように影響を与えるかを理解しなければならない。

4.　信頼性

AI システムは、明確な条件の下で動作し、予期せぬ状況においても安全に応答し、想定と異なる形で進化していかないように設計されなければならない。AIシステムをどう展開して、いつ展開するかの意思決定においては、人間が重要な役割を果たさなければならない。

5.　多様性

AI ソリューションは、不用意に人々を排除することになる製品や環境の潜在的障壁を予期した多様性のある設計規範によって、広範な人間のニーズと体験に対応しなければならない。

6.　説明責任

AI システムを設計し、展開する人々はシステムの動作について説明責任を負う。AI の説明責任の基準は、ヘルスケアにおけるプライバシーなどの他の分野での体験と実務に基づくべきだ。

そして、システム設計段階だけでなく、世界での運営されている中でも、継続的に遵守されなければならない。

これらの 6 つの基準がマイクロソフトの AI 製品とサービス設計の規範となっており、マイクロソフトは、製品がこれらの基準に準拠するかを制度的に確認するための社内委員会を設置している。

さらに、マイクロソフトは AI コミュニティの広範な取り組みに深く関与しており、AI のベストプラクティスを構築し、その認知度向上と人々と社会に対する影響の議論の促進を目指すことを目的とした Partnership on AI を共同設立した。

これらの取り組みは、マイクロソフトの目標、すなわち、Responsive and Responsible AI Leadership（迅速で責任ある AI のリーダーシップ）に基づくものであり、マイクロソフトのアプローチは、地球上のすべての個人と組織が、より多くのことを達成できるようにするという企業ミッションに基づいたものだ。

マイクロソフトは、AI が多くの課題を解決し、人間性を支援し、その能力を強化してくれると考えている。マイクロソフトは、AI の将来、そして、AI が作り出す私たちすべてにとってのより良い未来について楽観的だ。

しかし、この未来を実現するためには、政府、企業、学術界、市民団体が協力して、信頼できる AI システムを構築していくことが不可欠だ。

【関連リンク】
・マイクロソフト（Microsoft）