TRUST SMITHが深層学習モデルのデータ処理速度を最大5倍にする量子化技術を発表、エッジAIの実用化を推進

企業:

AIの深層学習の多くは、処理に膨大な計算量を要するため、計算リソースに制約がかかるモバイルデバイスやIoTデバイス等では深層学習を使用することが難しいとされてきた。

そうした中、TRUST SMITH株式会社は、深層学習モデルの量子化により、データ処理速度を最大5倍にすることができる量子化技術を発表した。この技術により、これまで膨大な処理が難しいとされていたエッジAIでの深層学習モデルの実装を可能とする。

今回の量子化技術では、これまで一般的だった32bitの浮動小数点数で数値を取り扱っていた演算手法に対し、最低2bitまで演算に必要なbit数を削減することができる。

また、組み込み分野での応用もできるよう、Pythonで量子化したモデルをC言語で実行するための独自のライブラリとして開発している。

TRUST SMITHは今後、量子化技術の応用範囲の拡大や高度な実用化を進めるとともに、モデルの量子化作業自体の自動化や、ユーザー自身がモデルを量子化できる仕組みの構築を目指すとしている。