개선된 ConvNeXt 네트워크와 지식 증류를 결합한 기상 인식 방법

LIU Libo ,  

XI Siyu ,  

DENG Zhen ,  

摘要

복잡한 교통 시나리오에서 기상 인식 정확도를 향상시키면서 네트워크 경량화를 실현하기 위해, 개선된 ConvNeXt 네트워크와 지식 증류를 결합한 기상 인식 방법을 제안하였다. 먼저, ConvNeXt 네트워크의 각 블록 특징 추출 후에 SimAm 주의 메커니즘을 추가하여 ConvNeXt_F 네트워크를 구축하였으며, SimAm 주의 메커니즘을 이용해 블록에서 추출한 심층 특징을 인증하고 가중치를 보정하여 기상 판별 특징 포착 능력을 효과적으로 강화하였다. 둘째, 네트워크 학습 과정에서 Equalized Focal Loss(EFL)와 Mutual-Channel Loss(MCL)를 평균 비율로 누적하여 총 손실 함수로 사용하였으며, EFL은 데이터 불균형의 영향을 제거하고 MCL은 동일 기상 내 국부 세부 특징 차이를 줄였다. 마지막으로, 지식 증류 기술을 사용해 ConvNeXt_F 네트워크에서 경량 MobileNetV3 네트워크로 기상 분류 지식을 이전하였으며, 정확도는 다소 감소했으나 네트워크 매개변수 수는 크게 감소하였다. 실험 결과, 제안된 방법은 본 논문에서 구축한 닝샤 고속도로 기상 데이터셋 weather-traffic과 공개 자연 기상 데이터셋 RSCM2017에서 각각 96.22%, 84.8%의 정확도를 달성하였고, FPS는 각각 157.6 Hz, 137.6 Hz이며 FLOPs와 Params는 각각 0.06 G와 2.54 M으로, 정확도, 속도, 네트워크 경량화 면에서 원래 네트워크 대비 모두 향상되어 저장 및 연산 능력이 제한된 실제 환경에 더 적합하다.

关键词

기상 인식;ConvNeXt 네트워크;주의 메커니즘;지식 증류

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website