투표 메커니즘 기반 신경 아키텍처 검색

YANG Jun ,  

ZHANG Jingfa ,  

摘要

기존 신경 아키텍처 검색 알고리즘이 자동으로 검색한 네트워크 아키텍처와 평가된 네트워크 아키텍처 간 큰 차이 문제를 해결하기 위해 투표 메커니즘 기반의 신경 아키텍처 검색 알고리즘을 제안하였다. 먼저, 소규모 배치 학습 데이터에 대해 테스트된 학습 손실을 성능 추정기로 활용하여 후보 네트워크를 샘플링하고, 계산 자원을 잠재적으로 성능이 우수한 후보 네트워크 아키텍처에 집중하여 균등 샘플링이 각 네트워크 아키텍처 간 중요도를 무시하는 문제를 해결하였다. 둘째, 각 노드 내 후보 연산 선택의 어려움을 해결하기 위해 그룹 희소 정규화 전략을 활용하여 모든 후보 연산을 순위 매기고 적합한 후보 연산을 선별하여 Cell 구조 내 경로 선택의 정확도를 향상시켰다. 마지막으로, 미분 가능한 아키텍처 검색 전략, 노이즈 전략, 그룹 희소 정규화 전략을 융합하여 가중치 투표 방식으로 최적의 Cell 구조를 선택하여 성능이 우수한 3D 모델 인식 및 분류 네트워크 아키텍처를 구축하였다. ModelNet40 데이터셋 실험 결과, 구축된 네트워크가 3D 모델 분류 정확도 93.9%를 달성하여 현재 주류 알고리즘보다 우수한 성능을 보였다. 본 알고리즘은 탐색 및 평가 단계에서 네트워크 아키텍처 간 차이를 효과적으로 줄여 기존 신경 아키텍처 검색 방법의 균등 샘플링으로 인한 네트워크 학습 효율 저하 문제를 해결하였다.

关键词

신경 아키텍처 검색;가중 투표;3D 모델 분류;성능 추정기;그룹 희소 정규화

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website