SDT、ネット接続なしでも生成AIを活用できる「Panorama AI Box」をリリース

SDT株式会社は、工場や病院といった高いセキュリティが要求される環境においても生成AIを活用できる「Panorama AI Box」をリリースした。

株式会社ELYZAが提供する大規模言語モデルである「Llama-3-ELYZA-JP-8B」は、オープンなモデルとして一般公開されているため、ダウンロードしてインターネット接続ができないオンプレミスの環境でも生成AIを活用することができる。

今回発表された「Panorama AI Box」は、RAG（※）技術を活用して、ELYZAと内部データを組み合わせることにより、インターネットに接続できない環境でも「Llama-3-ELYZA-JP-8B」を活用することができるというものだ。

※検索拡張生成（RAG）：RAGは、Retrieval-Augmented Generationの略であり、LLMがテキストの生成を行う際に、LLMが持たない外部情報の検索を組み合わせることにより、回答の精度を向上させる技術

料金は、リクエスト単位での従量課金ではないため、運用時の生成AIに関するランニング費用は発生しないとのことだ。

IoTNEWS編集部

IoTに関する様々な情報を取材し、皆様にお届けいたします。