Fusão de imagens infravermelhas e visíveis controlada semanticamente

LIU Changyuan ,  

CHENG Bingyun ,  

WU Haibin ,  

摘要

Atendendo às demandas atuais de fusão de imagens infravermelhas e visíveis impulsionadas por instruções de texto abertas, este artigo propõe uma estrutura de fusão de imagens infravermelhas-visíveis baseada na decomposição de bandas aprendível e em um módulo de controle guiado por texto. Por meio do modelo pré-treinado de linguagem-imagem contrastiva (Contrastive Language-Image Pre-training, CLIP) e do modelo universal de segmentação baseado em prompts de texto (Grounded Segment Anything Model, Grounded SAM), constrói-se de forma colaborativa um módulo de alinhamento texto-imagem que associa precisamente o conhecimento semântico prévio do texto com regiões locais da imagem. Um módulo dedicado de decomposição de bandas aprendível é projetado para extração de características bimodais, separando adaptativamente a base de baixa frequência que representa a estrutura geral e os detalhes de alta frequência que descrevem as texturas finas. Em seguida, projeta-se um módulo de fusão com controle sensível ao texto, que realiza um ajuste espacial adaptativo dos pesos de contribuição das modalidades infravermelha e visível. Constrói-se uma função de perda com múltiplas restrições que inclui termos cruciais como fidelidade do gradiente e regularização do mapa de controle, garantindo explicitamente a integridade estrutural dos resultados da fusão e a consistência semântica textual. Resultados experimentais mostram que, no conjunto de dados LLVIP, os indicadores relacionados ao texto da rede proposta, índice de melhoria da preservação de bordas (Qabf+) e índice de melhoria da similaridade estrutural (SSIM+), aumentam em 0,0705 e 0,0364 respectivamente, em comparação ao Textfusion. Os indicadores comuns de fusão de imagem, informação mútua (MI) e relação sinal-ruído de pico (PSNR) aumentam em 1,5164 e 1,7566 dB, enquanto a precisão média (mAP@50-95) em tarefas de detecção de objetos com limiares de IOU de 0,5 a 0,95 melhora em 0,9%. No processo de fusão real, o texto pode efetivamente guiar a geração da fusão de imagens, cumprindo essencialmente o objetivo de fusão de imagens controlado semanticamente.

关键词

fusão de imagens;orientação por texto;imagem infravermelha;imagem visível;decomposição de bandas

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website