Rede de segmentação semântica de imagem fraca supervisionada impulsionada por aprendizado contrastivo espaço-temporal

LIANG Zhen ,  

HU Yanzhu ,  

YANG Yang ,  

摘要

Os métodos existentes de segmentação semântica fraca supervisionada em nível de imagem baseados no Vision Transformer (ViT) dependem principalmente do mecanismo de autoatenção para extrair informações semânticas limitadas, não aproveitando plenamente as relações multivariadas de características, o que leva a um reconhecimento mais grosseiro das áreas-alvo. Para isso, foi proposta uma rede de segmentação semântica de imagem fraca supervisionada impulsionada por aprendizado contrastivo espaço-temporal (Spatio-temporal Contrastive Learning, STCL), visando explorar informações supervisionadas sob as perspectivas temporal e espacial, para melhorar a precisão da segmentação. Através do mecanismo de tokens do ViT, foi introduzido um módulo de aprendizado contrastivo de características espaciais, combinando estratégias de contraste entre tokens de patches e tokens de classe, explorando profundamente as relações semânticas implícitas no espaço da imagem; um módulo de aprendizado contrastivo de contexto temporal foi projetado, construindo uma memória que utiliza conhecimentos prévios da segmentação de imagens históricas para guiar a tarefa atual de segmentação semântica, e foi estabelecida uma estratégia de atualização de memória e uma perda adaptativa de contraste de memória, melhorando ainda mais a capacidade do modelo de distinguir áreas detalhadas. Resultados experimentais mostram que a média do índice de interseção sobre união (mIoU) nos conjuntos de dados PASCAL VOC e MS COCO alcança 72,7% e 43,6%, respectivamente, comprovando a superioridade do método proposto.

关键词

visão computacional;segmentação semântica;aprendizado fraco supervisionado;mapas de ativação de classe;Vision Transformer;aprendizado contrastivo

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website