機械学習、深層学習において高精度の訓練済みモデルを獲得するために、訓練時のアルゴリズムの挙動を制御する複雑なハイパーパラメータの最適化は不可欠だ。学習率やバッチサイズ、学習イテレーション数、ニューラルネットワークの層数、チャンネル数など様々なものがハイパーパラメータとなる。
株式会社Preferred Networks(以下、PFN)が、2018年12月にオープンソース化した「Optuna(オプチュナ)」は、Pythonで書かれたハイパーパラメータ自動最適化フレームワークだ。ハイパーパラメータを最適化するための試行錯誤を自動化して、優れた性能を発揮するハイパーパラメータの値を自動的に発見する。
今回、Optunaのメジャーバージョンとなるv1.0を公開した。Optuna β版のコードの変更はほぼ不要で、そのまま動作させることができる。Optuna v1.0 の主要な機能は以下の通り。
- 最新の最適化アルゴリズムによる効率的な探索を実現
- PyTorch、TensorFlow、Keras、FastAI、scikit-learn、LightGBM、XGBoostを含む様々な機械学習ライブラリに対応
- 複数の計算機での並列実行をサポートし、最適化時間を大幅に短縮
- 探索空間をPythonの制御構文で記述可能
- 様々な可視化手段を提供し、最適化結果を多面的に分析
無料メルマガ会員に登録しませんか?
膨大な記事を効率よくチェック!
IoTに関する様々な情報を取材し、皆様にお届けいたします。