株式会社Preferred Elements（以下、PFE）は、1000億パラメータのマルチモーダル基盤モデルの開発に着手することを発表した。さらに、世界的規模である1兆パラメータの言語モデルの開発に向けた事前学習の検証も行う。
今回PFEは、経済産業省とNEDOが始める国内の生成AIの開発力を強化するプロジェクト「GENIAC（Generative AI Accelerator Challenge）」において、基盤モデル開発に必要な計算資源の提供支援を受け、これまで開発してきた130億パラメータを上回る1000億パラメータのマルチモーダル基盤モデルの開発を行う。
また、1兆パラメータの大規模言語モデルの事前学習の検証も実施する。
この助成事業で得られた成果物は、安全性の検証後、1000億パラメータのモデルのウェイトやファインチューニング用コード、学習課題やノウハウを、「GENIAC」の基盤モデル開発事業者コミュニティや講演を通じて公開する予定だ。
さらに、PFEは複数の企業や行政機関と2024年中の利用開始に向けた議論を始め、商用化に向けた準備を進めているとしている。
研究開発の期間は、2024年2月15日から8月15日を予定している。
なお、このプロジェクトは、経済産業省とNEDOの公募「ポスト 5G 情報通信システム基盤強化研究開発事業/ポスト 5G 情報通信システムの開発」に提案し、採択されたものだ。
無料メルマガ会員に登録しませんか？
IoTNEWSは、毎日10-20本の新着ニュースを公開しております。 また、デジタル社会に必要な視点を養う、DIGITIDEという特集コンテンツも毎日投稿しております。
そこで、週一回配信される、無料のメールマガジン会員になっていただくと、記事一覧やオリジナルコンテンツの情報が取得可能となります。
- DXに関する最新ニュース
- 曜日代わりのデジタル社会の潮流を知る『DIGITIDE』
- 実践を重要視する方に聞く、インタビュー記事
- 業務改革に必要なDX手法などDXノウハウ
など、多岐にわたるテーマが配信されております。
また、無料メルマガ会員になると、会員限定のコンテンツも読むことができます。
無料メールから、気になるテーマの記事だけをピックアップして読んでいただけます。 ぜひ、無料のメールマガジンを購読して、貴社の取り組みに役立ててください。
無料メルマガ会員登録
IoTに関する様々な情報を取材し、皆様にお届けいたします。
