SDT、ネット接続なしでも生成AIを活用できる「Panorama AI Box」をリリース

企業:

SDT株式会社は、工場や病院といった高いセキュリティが要求される環境においても生成AIを活用できる「Panorama AI Box」をリリースした。

株式会社ELYZAが提供する大規模言語モデルである「Llama-3-ELYZA-JP-8B」は、オープンなモデルとして一般公開されているため、ダウンロードしてインターネット接続ができないオンプレミスの環境でも生成AIを活用することができる。

今回発表された「Panorama AI Box」は、RAG(※)技術を活用して、ELYZAと内部データを組み合わせることにより、インターネットに接続できない環境でも「Llama-3-ELYZA-JP-8B」を活用することができるというものだ。

※検索拡張生成(RAG):RAGは、Retrieval-Augmented Generationの略であり、LLMがテキストの生成を行う際に、LLMが持たない外部情報の検索を組み合わせることにより、回答の精度を向上させる技術

SDT、ネット接続なしでも生成AIを活用できる「Panorama AI Box」をリリース
「Panorama AI Box」の概要図

料金は、リクエスト単位での従量課金ではないため、運用時の生成AIに関するランニング費用は発生しないとのことだ。

無料メルマガ会員に登録しませんか?

膨大な記事を効率よくチェック!

IoTNEWSは、毎日10-20本の新着ニュースを公開しております。 また、デジタル社会に必要な視点を養う、DIGITIDEという特集コンテンツも毎日投稿しております。

そこで、週一回配信される、無料のメールマガジン会員になっていただくと、記事一覧やオリジナルコンテンツの情報が取得可能となります。

  • DXに関する最新ニュース
  • 曜日代わりのデジタル社会の潮流を知る『DIGITIDE』
  • 実践を重要視する方に聞く、インタビュー記事
  • 業務改革に必要なDX手法などDXノウハウ

など、多岐にわたるテーマが配信されております。

また、無料メルマガ会員になると、会員限定のコンテンツも読むことができます。

無料メールから、気になるテーマの記事だけをピックアップして読んでいただけます。 ぜひ、無料のメールマガジンを購読して、貴社の取り組みに役立ててください。

無料メルマガ会員登録