投票機構に基づくニューラルアーキテクチャサーチ

YANG Jun ,  

ZHANG Jingfa ,  

摘要

既存のニューラルアーキテクチャサーチアルゴリズムが自動的に検索したネットワークアーキテクチャと評価されたネットワークアーキテクチャ間に大きな差異が存在する問題に対して、投票機構に基づくニューラルアーキテクチャサーチアルゴリズムを提案した。まず、小バッチトレーニングデータ上でテストされたトレーニング損失を性能推定器として用いて候補ネットワークをサンプリングし、均一サンプリングが各ネットワークアーキテクチャ間の重要度を無視する問題を解決するために、計算資源を潜在的に性能の良い候補ネットワークアーキテクチャに集中させた。次に、各ノード内の候補操作選択の困難さに対して、グループスパース正則化戦略を利用してすべての候補操作をランク付けし、適切な候補操作を絞り込み、Cell構造における経路選択の精度をさらに向上させた。最後に、微分可能なアーキテクチャサーチ戦略、ノイズ戦略、およびグループスパース正則化戦略を融合し、加重投票の方法で最適なCell構造を選択し、性能に優れた3Dモデル認識および分類ネットワークアーキテクチャを構築した。ModelNet40データセットでの実験結果は、構築されたネットワークが3Dモデル分類精度93.9%を達成し、現在の主流アルゴリズムを上回ることを示した。本アルゴリズムは探索および評価段階におけるネットワークアーキテクチャ間の差異を効果的に縮小し、従来のニューラルアーキテクチャサーチ方法における均一サンプリングによるネットワーク学習効率の低下問題を解決した。

关键词

ニューラルアーキテクチャサーチ;加重投票;3Dモデル分類;性能推定器;グループスパース正則化

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website