NTT、独自のLLM「tsuzumi」を用いた商用サービスを提供開始へ

近年、ChatGPTを始めとする大規模言語モデル（以下、LLM）に注目が集まっているが、これらは膨大な知識をモデル内に有することで、高い言語処理性能を示す一方、学習に要するエネルギーは、原発1基1時間分の電力量が必要（GTP-3のケース）とも言われている。

また、運用には大規模なGPUクラスタを必要とし、様々な業界に特化するためのチューニングや推論にかかるコストが膨大であることから、サステナビリティおよび企業が学習環境を準備するための経済的負担面が課題となっている。

こうした中、日本電信電話株式会社（以下、NTT）は、軽量かつ日本語処理性能を持つLLM「tsuzumi」を活用し、NTTグループ発の商用サービスとして、2024年3月に提供を開始することを発表した。

「tsuzumi」は、軽量なLLMだ。パラメタサイズが6億の超軽量版と、70億の軽量版が開発されている。

軽量版は、1GPUで、超軽量版はCPUで高速に推論動作可能であり、チューニングや推論に必要なコストを抑えることが可能だ。

NTTがGPUクラウドの利用料金に換算した結果、超軽量版は学習コストを約300分の1に、軽量版は25分の1に抑えられるほか、推論コストを超軽量版は約70分の1に、軽量版は20分の1に低減することができるとしている。

また、「tsuzumi」は日本語と英語に対応しており、特に日本語処理性能については、生成AI向けのベンチマークであるRakudaにて、GPT-3.5や国産トップのLLM群を上回ることが確認されているのだという。なお、多言語にも今後対応予定だ。

チューニングにおいては、事前学習済みモデルの外部に追加されるサブモジュールである「アダプタ」により、例えば特定の業界に特有の言語表現や知識に対応するようなチューニングを、少ない追加学習量で実現可能だ。

さらに、言語化されていないグラフィカルな表示や音声のニュアンス、顔の表情などを理解し、現実世界での人との協調作業を可能とするような、マルチモーダルへの対応を予定している。

まずは、業界に固有なデータを柔軟・セキュアに学習することが可能となる点を生かし、業界に特化した領域にフォーカスしていくのだという。

「tsuzumi」は、全ての知識を集約した1つの巨大なLLMが存在するのではなく、専門性や個性をもった小さなLLMの集合知が、多種多様なAI群と連携していくLLMだ。

こうした大量のLLMの連携基盤には、ローカル環境と遜色のない環境が必要になるが、NTTでは、tsuzumiの学習のために「IOWN APN（All Photonics Network）」を利用した環境を構築している。

これにより、数百km離れたデータセンタ間でGPUとストレージを接続し、安全かつ性能低下の少ないLLM学習環境を実現しているのだという。

なお、提供開始に向け、2023年10月から先行して、メディカル分野の京都大学医学部附属病院やコンタクトセンタ分野の東京海上日動火災保険株式会社などのパートナーと、トライアルを開始している。

今後は、商用サービス提供後もチューニング機能の充実やマルチモーダルの実装についても順次展開していく計画だ。加えて、サイバーセキュリティ分野への応用や、自律的に連携し議論するAIコンステレーション等の開発を進めていくとしている。

また、「tsuzumi」は、2023年11月14日～17日に開催する「NTT R&D FORUM 2023-IOWNACCELERATION」の、IOWN Pickupの展示ブースにて展示される予定だ。

IoTNEWS編集部

IoTに関する様々な情報を取材し、皆様にお届けいたします。