TOP >
要素技術 > PFE、エッジデバイス上で動作可能な小規模言語モデル「PLaMo Lite」の提供を開始
株式会社Preferred Networks(以下、PFN)は、子会社の株式会社Preferred Elements(以下、PFE)がエッジデバイス向けに開発する小規模言語モデル(以下、SLM)「PLaMo Lite(プラモ・ライト)」の提供を開始すると発表した。
「PLaMo Lite」は、クラウドを介さずにエッジデバイス上や、企業が自社で保有するオンプレミス環境で、高速に動作可能な小規模言語モデルだ。PFEがフルスクラッチで開発した1000億パラメータの大規模言語モデル「PLaMo-100B」の開発成果を元にして、10億パラメータの小型モデルを構築し、大規模なモデルに比べて計算コストを削減している。
また、事前学習には、「PLaMo-100B」で生成した日本語と英語の高品質なテキストデータを使用し、「PLaMo-100B」の事前学習データの2倍となる合計4兆トークンを学習させている。
これにより「PLaMo Lite」は、日本語性能を評価する各種ベンチマークにおいて、同程度のパラメータ数のSLMと比べて高い日本語性能を示しており、日本語性能を評価する標準ベンチマークJaster 0-shotおよび4-shotsにおいては、よりパラメータ数の大きなLLMと比べても遜色ない評価を得ているとのことだ。
PLaMo Liteの日本語性能評価(日本語質問応答・日英翻訳での他社SLM比較およびJasterでの他社LLM比較)
利用用途としては、自動車やロボット、製造設備、PCなどが挙げられている。
なお、今秋には、「PLaMo-100B」をベースにした法人向けの大規模言語モデル「PLaMo 1.0 Prime」を発売予定とのことだ。
IoTに関する様々な情報を取材し、皆様にお届けいたします。
企業向けAI活用虎の巻
AIによって「優秀な人材」の定義が変化したことを、どうみるべきか —AI時代の人材採...
まだ、生成AIのチャットボットで消耗しているの? ー自律的に動くAIエージェントが働...
AI時代の「中間管理職クライシス」 —部下がAIに相談する時代、上司の価値はどこに残...
AIに仕事を頼む技術 —なぜ「営業資料を作って」と頼むと失敗するのか?
生成AIは、使い手の「言語化能力」を暴く、リトマス試験紙
AIに「ゴミ」を食わせるな ーAIエージェントが賢くなるデータ、バカになるデータ
AIで業務を自動化する方法とは ーなぜ、ChatGPTを配っても仕事は減らないのか?
なぜあなたの会社で、生成AIが活用されないのか?どこで活用すべきか?
生成AI活用ガイド
AIエージェントに「社員番号」は必要か?SKテレコムに見るID管理の本質
人事システムに組み込まれるAI、企業は使う前に何を確かめるべきか?
PHPの重大脆弱性で多くの組織がサービスを止めた理由とは?AI時代に企業はどう備える...
フィジカルAI「10の誤解」とは?ガートナーの指摘から考える現場データを貯めた先の次...
「24時間働く分身AI」に何を任せるか?Muse・dotsに見るパーソナルエージェン...
AI導入の成果は効率化にとどまっていないか?「売上の方程式」で描く攻めのAIの地図
AIが攻撃に使われるとき防御側のAIは動くのか?NVIDIAら「オープンAI連合」に...
今更聞けない生成AIの選び方、自分の優先軸で選ぶための4つのチェックポイント
フィジカルAIが可能にする柔軟なロボットアームとは?製造業にとって現実的な選択肢にな...
フィジカルAIはどこまで来ているのか?導入判断の前に見るべき「現場データ」