近年、業務効率化の手段として生成AIの活用が急速に進む一方で、金融機関においては機密性の高い情報を取り扱うため、データ保護や法規制を踏まえたガバナンスの確保が大きな課題となっている。
加えて、クラウド型AIの従量課金によるコスト増大や予算管理の難しさも、全社的なシステム開発における本格導入の壁となっていた。
こうした中、株式会社NTTデータ先端技術は、株式会社NTTデータフィナンシャルテクノロジーと連携し、オンプレミスの閉域環境におけるローカルLLM（大規模言語モデル）を活用した技術検証（PoC）を実施したと発表した。
今回の検証は、外部にデータを一切送信しない生成AI基盤をオンプレミス環境上に構築し、金融システムの開発業務に適用できるかを確認したものだ。
具体的には、システム開発における設計書作成業務において、「設計文書の整合性チェックの自動化」を検証した。
その結果、企業独自のセキュリティポリシーや内部統制、業界標準などのルールから逸脱することなく、AIが自動で文書のチェックおよび修正を行い、レビュー工程を削減できることが確認された。
また、同検証では、業務内容に応じて複数のLLMモデルやRAG（検索拡張生成）などの技術を柔軟に選択できる環境を構築し、金融システムに特化したナレッジを効果的に活用できることを実証した。
さらに、ローカルLLMの採用により、生成AIの利用量に大きく影響されない安定したコスト構造（コストの固定化）を実現できる点も確認されている。
これにより、クラウド利用料の削減に加え、予算管理の容易化や中長期的なコスト見通しの明確化といった経営的なメリットが期待されている。
加えてこの検証では、導入初期の段階で規模を抑え、業務への効果を確認しながら段階的に利用範囲を拡大していくスモールスタートでの運用モデルの有効性も評価された。
これにより、生成AI導入時の投資リスクを抑えつつ、本格導入へ移行できることが確認されている。
NTTデータ先端技術は今後、同技術検証の結果を踏まえ、セキュリティやガバナンス、コスト予見性を重視した生成AI活用の実現に向けた取り組みを進めていくとしている。