株式会社野村総合研究所（以下、NRI）とNRIデジタル株式会社は、生成AI活用にあたり、「データ漏洩リスク」を極小化する生成AIソリューション「プライベートLLM（大規模言語モデル）」を、2024年春以降に提供する予定であることを発表した。
「プライベートLLM」の主な特徴は、プライベートクラウドやオンプレミス環境で動作し、機密・機微情報を安全に扱うことができることだ。金融機関など、特に高いレベルの情報セキュリティ統制を必要とする企業が利用することが想定されている。
生成AIの活用においては、OpenAI社のGPT-4などの外部サービス型LLMに、機密・機微情報を送信することが懸念事項となっている。そこで「プライベートLLM」では、MetaのLlama 2を始めとする基盤モデルが公開されたLLMを、NRIのデータセンタで稼働するプライベートクラウドサービスや、企業自身が情報システムを保有し運用するオンプレミス環境で動作させることで、機密・機微情報を安全に扱うことが可能となる。
また、個別企業の業務に合わせてLLMをカスタマイズすることも可能。現時点では、基盤モデルが公開されたLLMの性能は外部サービス型LLMには及ばないが、企業が持つデータを利用してカスタマイズすることで、タスク内容によっては業務に適用可能な性能を発揮することが期待されている。
さらに、「プライベート音声認識」モジュールなど、周辺モジュールも提供する予定だ。LLMに音声認識機能を組み合わせると、コンタクトセンタや対面での問い合わせ対応など、適用できる業務の幅が広がる。
なお、「プライベートLLM」の性能を検証するため、NRI内の会計事務手続きサポート業務に適用し、カスタマイズ用の学習データ6万件を用いて、NRIのデータセンタに設置したGPU上で動作するLlama 2のファインチューニングを行った結果、業務に適用可能な水準まで性能が向上したのだという。その結果、「プライベートLLM」によって当該業務の一部を代替し、Q&A作成の作業時間を60%削減できたとしている。
NRIとNRIデジタルは、「今後も企業や個人のニーズに合わせて最適化された生成AIを活用できるよう、各種サービスの開発に積極的に取り組む」としている。