「AI」の活用の実態と、未来をよむ

Linux FoundationのLF DL Foundation

Linux Foundationは、LF Deep Learning Foundationという新しいプロジェクトを始めた。

このプロジェクトの目的は「AI、機械学習やディープラーニングにおけるオープンソースイノベーションをサポート、世界中の開発者やデータサイエンティストにこの最新技術をお届けする」のだという。

Amdocs、 AT&T、 B.Yond、百度、ファーウェイ、ノキア、Tech Mahindra、 Tencent、 Univa や ZTEという企業が設立メンバーとして参加している。

新組織の初プロジェクトとなったのはAcumos AI プロジェクトだ。Acumos AI はAT&TとTech Mahindraのコラボプロジェクトであり、AIモデルやワークフローの開発や共有のためのプラットホームである。

他のLinux Foundationの組織と同様に、LF Deep Learning Foundationに参加するメンバーはかならずLinux Foundationにも参加しなければいけない。プロジェクトをサポートしたい企業にLF Deep Learning Foundationは非営利団体向けメンバーシップを含めて、様々なメンバーシッププランを提供している。

AIが起こしうる将来の問題とその対策

Teslaのイーロン・マスク氏や、グーグルDeepmind社やSkype社の設立者を始め、優秀なAI技術者や企業リーダーはAI技術を使う自動殺傷兵器を開発しないという宣誓書に調印した。

この宣誓書は2018年ストックホルム市に行われたIJCAI（国際人工知能合同会議）で公開された。同宣誓書では、人間介入なくターゲットを選択・攻撃するAIを使った兵器システムの実用やモラル脅威が主張された。「人生を奪う決定は決して機械に任せるべきではない」と参加調印者は諭している。

これまで、自律型致死兵器システム（Lethal Autonomous Weapons Systems、以下LAWS）の国際規制を導入する呼びかけは成果を得られなかった。その背景には自律型武器システム識別は曖昧である他、アメリカや中国などLAWS開発が進んでいる国では国際規制を導入する動機はないなどの課題があると考えられている。

今後、技術の進歩が人の命を奪うようなことに使われないよう、注意していかなければならない。

Pymetricsによる偏見を発見するツールのオープンソース化

アメリカのAIスタートアップPymetrics社はアルゴリズムに偏見を発見するツールをGitHub上でオープンソース化した。

同社のAudit AIツールはアルゴリズムをスキャンし、差別化や好意的な扱い・特恵を検出する。

Pymetricsはもともと人材紹介に専念しており、優秀な人材をビジネスに紹介していた。

テキサス大学ダラス校とNIST研究者が2010年に共同で行った研究の結果は、欧州で開発されたアルゴリズムは白人認識に優れているとわかった。一方、東南アジアで開発されたアルゴリズムは東南アジア人の認識に優れていた。このように、アルゴリズムは非意図的に決まったグループで効率が高いという結論だった。

Audit AIはこのような偏見を検出し、開発者に伝え、開発者はそれに基づきアルゴリズム修正の必要を決めるという仕組みだ。

機械学習技術はこれからさらにヘルスケア、警備、福祉システムなどに適用されるため、大規模で偏見や不平等を再強化する可能性があり、人権侵害につながりかねるという。このような悪影響を防ぐため、Audit AIのようなソリューションは重要だ。

小泉 耕二

デジタルソサエティ研究家。

1973年生まれ。IoTNEWS代表。株式会社アールジーン代表取締役。
フジテレビ Live News α コメンテーター。J-WAVE TOKYO MORNING RADIO 記事解説。など。

大阪大学でニューロコンピューティングを学び、アクセンチュアなどのグローバルコンサルティングファームより現職。

著書に、「２時間でわかる図解IoTビジネス入門（あさ出版）」「顧客ともっとつながる(日経BP)」、YouTubeチャンネルに「小泉耕二の未来大学」がある。