Deep Learning
口頭発表
Binary-decomposed DCNNにおけるハイパーパラメータの自動最適化
- Author
- 近藤良太, 平川翼, 山下隆義, 藤吉弘亘
- Publication
- ビジョン技術の実利用ワークショップ, 2019
Download: PDF (Japanese)
Binary-decomposed DCNNは，特徴マップの量子化と重みの分解により，論理演算を用いた近似計算にすることで，推論の高速化とモデル圧縮を再学習なしに行う手法である．特徴マップはQuantization sub-layerを用いて量子化し，重みはベクトル分解を適用して少量の実数と多数の二値ベクトルに変換する．Quantization sub-layerは量子化ビット数を設定して量子化精度を調整し，ベクトル分解は基底数を設定して近似精度を調整する．これらのハイパーパラメータは各層において任意に設定する必要がある．ネットワークの各層において最適値を予め設定することは困難である．そこで本研究では，ハイパーパラメータ探索を用いて量子化ビット数と基底数を同時に自動最適化する手法を提案する．提案手法は識別精度，モデルサイズ，処理速度を考慮した目的関数を定義し，ハイパーパラメータ探索により量子化ビット数と基底数を同時に最適化する．ImageNetデータセットを用いた評価実験では，提案手法が従来手法よりモデル圧縮率が6.15%，処理速度が0.02[sec]優れた結果を示した．また，COCOデータセットを用いた評価実験では，物体検出タスクにおいても提案手法が有効であることを確認した．