Fusión de imágenes nocturnas infrarrojas y visibles con inyección de información multinivel

YANG Yanchun ,  

LI Jialong ,  

LI Yi ,  

WANG Zeyu ,  

摘要

Debido a problemas en la fusión de imágenes infrarrojas y visibles en condiciones de poca luz, como la falta de claridad en detalles de textura y una percepción visual deficiente causada por la ignorancia de la iluminación, este artículo propone un método de fusión de imágenes infrarrojas y visibles de múltiples escalas con mejora para baja iluminación e inyección semántica. Primero, se diseñó una red adecuada para la mejora en condiciones de poca luz, utilizando un modelo residual iterativo para potenciar las imágenes visibles en escenas nocturnas. Luego, se emplea un extractor de características basado en la arquitectura Nest como codificador y decodificador de la red, donde las características profundas capturan la estructura compleja y la información semántica de la imagen. Se diseñó un módulo de aprendizaje de prior semántico que, mediante atención cruzada, extrae aún más la información semántica profunda de las imágenes infrarrojas y visibles, y una unidad de inyección semántica introduce gradualmente las características mejoradas en todas las escalas. Después, se diseñó una rama de mejora de gradiente: las características principales primero pasan por atención mixta, luego se dividen en flujos de operadores Sobel y Laplacianos para fortalecer el gradiente de la imagen fusionada. Finalmente, a través de conexiones densas dentro del mismo nivel y conexiones de salto entre diferentes niveles en el decodificador, se reconstruyen las características a múltiples escalas. Los resultados experimentales muestran que este método mejora en promedio un 23.1%, 16.3%, 18% y 39.8% la fidelidad de la información visual, la información mutua, el coeficiente de correlación de diferencia y la frecuencia espacial, respectivamente, en comparación con nueve métodos, mejorando efectivamente la calidad de las imágenes fusionadas en entornos de poca luz y ayudando a mejorar el rendimiento de tareas visuales avanzadas.

关键词

fusión de imágenes infrarrojas y visibles;red de fusión multinivel;mejora en baja iluminación;atención cruzada;inyección semántica

阅读全文