株式会社NTTドコモ、NTTコミュニケーションズ株式会社、NTTコムウェア株式会社は、大規模言語モデル（以下、LLM）を活用した生成AIによる社内業務のDX推進や、生成AIの付加価値を高める新たなサービス（以下、付加価値サービス）の提供を目指し、2023年8月21日から、生成AIの社内活用を行う実証実験を開始する。
この実証実験では、生成AIを活用する際の安全性と利便性向上のために、NTTドコモが開発した「LLM付加価値基盤」を、NTTドコモグループ3社で活用する。
「LLM付加価値基盤」は、プロンプト入力時に回答の元となるマニュアルなどのファイルを追加で投入すると、ファイルの内容を元に回答を生成し、回答にファイル内のリファレンスを表示する機能などを備えている。
さらに、機微情報の外部送出フィルタリング機能やLLMからの不適切回答のフィルタリング機能を追加するなどし、安全性を向上させる基盤の提供を目指す。
また、「LLM付加価値基盤」はAzure OpenAI Serviceと連携して利用することが可能だが、今後は、NTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダが提供するLLMを活用し、ユースケースに合わせさまざまなLLMを選択して利用できる基盤として拡張していくとしている。
まずは、NTTドコモグループ3社の全従業員の業務効率化に向けて、例えば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答を行うなど、社内業務において活用していく。
また、利便性や回答の正確性を検証し、顧客応対業務などへの適用可否を検討していく。
「LLM付加価値基盤」は、今回の実証実験で得られたノウハウをもとに最適化を行い、法人との検証を経て、2023年度中のサービス提供開始を目指す。
さらに、「LLM付加価値基盤」を、ドコモが保有するビッグデータや音声認識および画像認識などのAI技術と組み合わせることで、法人顧客とともに、新たな付加価値サービスの検討を開始するとしている。