ThunderSoft（以下、サンダーソフト）とQualcomm（以下、クアルコム）の合弁会社であるThundercomm（以下、サンダーコム）は、大規模言語モデル（以下、LLM）をIoTエッジデバイスに実装できる、「ThunderSoft Rubik LLM」を発表した。
サンダーコムが提供するIoTプラットフォームである「TurboX」には、クアルコムのSoC（System on Chip）を活用しており、低遅延なデータ解析を実現している。
そして今回、「TurboX C8550」シリーズに大規模言語モデルを実装できる「ThunderSoft Rubik LLM」を追加することで、生成AIによる機能拡張をIoTエッジデバイスに組み込むことができるようになった。
「ThunderSoft Rubik LLM」は、モジュールやミドルウェア、ソフトウェアパッケージが事前検証済みであるため、開発期間を短縮し、生産性を向上させることができる。
エッジデバイスのSoCに「ThunderSoft Rubik LLM」を組み込むことで、AIの学習データを外部サーバに送らずにセキュリティを強化できる。また、エッジでのインタラクションによる応答速度（レイテンシー）の向上を支援する。
バッテリーは、モバイル機器への搭載を意識した省エネルギーデザインとなっており、バッテリー寿命の延長と、環境への負荷を低減させている。
さらに、Windows、Android、Linux、UbuntuのマルチOSサポートにより、様々なエコシステムが利用することができ、カスタムアプリケーションや機能を追加しやすい仕様だ。
「ThunderSoft Rubik LLM」を活用することにより、例えば、音声認識や自然言語処理でユーザの声に応答する、スマートスピーカや音声アシスタントデバイスの開発が可能になる。
また、リアルタイムの画像処理・顔認識・動画生成を、セキュリティカメラやドライブレコーダの運転支援機能開発などにも応用させることができる。
さらに、産業用機器に生成AIを搭載し、センサデータと組み合わせて自己診断を行い、メンテナンスが必要な場合にはアラートを発信するなども可能だ。
海外では、すでに「ThunderSoft Rubik LLM」の活用が進んでおり、スマートロボットシステム「Rubik AMR Commander」がその一例だ。
このシステムは、AMR（自律移動ロボット）の指令システムに大規模言語モデルを融合し、音声対話、環境認識、タスクプランニング、自動制御などの機能を統合している。
「Rubik AMR Commander」を通じて、音声コマンドでタスクを割り当てることが可能で、遠隔からロボットに物品の配達などを指示することができる。
ロボットは指令者の意図を自ら理解する能力を有しているほか、音声による機密情報はエッジデバイス内蔵の大規模言語モデルで直接処理されるため、データのプライバシーとセキュリティが保たれる仕様となっている。
クアルコム シーディーエムエー テクノロジーズ プロダクトマーケティング ダイレクターの泉宏志氏は、「クアルコムでは引き続き強力なプロセッサとAIエンジンを持つSoCをIoT向けに強化していき、サンダーコムではそれらを活かして組み込み型の生成AI機能をさらに拡張していく予定です。」と述べている。
今後サンダーコムは、株式会社マクニカなどの販売パートナと提携を強化し、製造、物流、エンタメ、医療、教育をはじめとする様々な産業に「TurboX C8550」を展開するとともに、顧客企業との共同開発を通じて、AIのアルゴリズムとモデルの開発および、製品価値の向上を継続していく予定だ。