AIの深層学習の多くは、処理に膨大な計算量を要するため、計算リソースに制約がかかるモバイルデバイスやIoTデバイス等では深層学習を使用することが難しいとされてきた。
そうした中、TRUST SMITH株式会社は、深層学習モデルの量子化により、データ処理速度を最大5倍にすることができる量子化技術を発表した。この技術により、これまで膨大な処理が難しいとされていたエッジAIでの深層学習モデルの実装を可能とする。
今回の量子化技術では、これまで一般的だった32bitの浮動小数点数で数値を取り扱っていた演算手法に対し、最低2bitまで演算に必要なbit数を削減することができる。
また、組み込み分野での応用もできるよう、Pythonで量子化したモデルをC言語で実行するための独自のライブラリとして開発している。
TRUST SMITHは今後、量子化技術の応用範囲の拡大や高度な実用化を進めるとともに、モデルの量子化作業自体の自動化や、ユーザー自身がモデルを量子化できる仕組みの構築を目指すとしている。