NEC、認識精度を向上させるディープラーニングの自動最適化技術を開発

NECは、認識精度を向上させるディープラーニングの自動最適化技術を開発したと発表した。

従来のディープラーニングは、ニューラルネットワーク(人工的な神経細胞(ニューロン)で構成される神経回路網)の構造に応じた学習の調整が困難なため、ネットワーク全体で最適な学習が行えず、本来の認識性能を十分に引き出すことができないという課題があった。

同技術は、ニューラルネットワークの学習の進み具合を、その構造に応じて自動的に最適化し、従来よりも高い認識精度を容易に実現するものだという。

同技術により、画像認識や音声認識などのディープラーニングが利用されている様々な分野で、認識精度の向上が期待できる。例えば、顔認証や行動解析などの映像監視の高精度化、インフラなどの点検作業の効率化、障害・事故や災害などの自動検知の実現が期待できる。

背景

近年、ディープラーニングが飛躍的な発展を遂げ、画像認識や音声認識をはじめとする幅広い分野で活用されている。ディープラーニングでは、深い層構造を持ったニューラルネットワークを用い、予め準備したデータを学習させることで高精度化を実現する。

しかし、データを過度に学習すると、学習したデータしか高精度に認識できず、学習に用いていないデータに対する認識精度が低下する「過学習」(与えられた学習データを過度に学習してしまい、学習していないデータに対する精度が低下してしまう現象)と呼ばれる現象が生じる。

これを避けるために、学習が過度に進まないように学習の進行を調整する「正則化」(モデルの複雑さに罰則を科すことで、過学習を抑制する手法)と呼ばれる技術が使われている。

ニューラルネットワークの学習の進み具合は、その構造によって複雑に変化するため、従来はネットワーク全体に対して同じ正則化を用いるしかなかったという。

そのため、ネットワークの各層によって過度に学習したり、あるいは学習が進まなかったりする問題が生じ、本来の認識性能を十分に引き出すことが困難だった。また、各層の学習の進み具合を手動で調整することは難しいため、自動的な調整が望まれていた。

今回開発された技術は、ニューラルネットワークの構造を基に、学習の進み具合を層ごとに予測し、その進み具合に適した正則化を層ごとに自動設定するものだ。これにより、ネットワーク全体で学習が最適化され、従来よりもさらに認識エラーを20%程度削減するなど、認識精度が改善できる。

新技術の特長

1. ニューラルネットワークの構造に応じた学習の自動最適化

ニューラルネットワークの構造を基に学習の進み具合を層ごとに予測し、各層の進み具合に適した正則化を層ごとに自動設定する。これにより、ネットワーク全体で学習の進み具合が最適化され、各層によって過度に学習したり、学習が進まなかったりする従来の課題を解決した。

なお同技術を用いた手書き数字データの認識実験において、認識エラーが20%程度削減するなど、認識精度が改善した。

NEC、認識精度を向上させるディープラーニングの自動最適化技術を開発

2. 従来と同等の計算量で容易に高精度化を実現

同技術は、ニューラルネットの学習を行う前に一度だけ実施されるものであり、学習に関わる計算量は従来と同等でありながら、容易に高精度化を実現した。

【関連リンク】
日本電気(NEC)

Previous

オプテックス、「押す力を利用して自ら発電する」自動ドア開閉用スイッチを開発

NVIDIA、Voltaアーキテクチャの新しいGPU「TITAN V」を発表、110テラフロップスのディープラーニング能力を提供

Next