구조 우선 정보와 다중 스케일 잔차 집계를 기반으로 한 대규모 손상 이미지 복원

WEI Yun ,  

JIA Baixue ,  

FENG Dandan ,  

ZHANG Zhirui ,  

XIN Zihao ,  

WU Tongchen ,  

摘要

얼굴, 거리 풍경, 건축물 등에서 대규모 손상 이미지 복원 시 발생하는 텍스처 흐림, 구조 왜곡 및 경계 인공물 문제를 해결하기 위해 구조 우선 정보와 다중 스케일 잔차 집계(Structural Priors and Multi-scale Residual Aggregation, SPMRA-Net)를 기반으로 한 대규모 손상 이미지 복원 방법을 제안한다. 먼저, 확장 합성곱(dilated convolution)과 잔차 구조를 통해 모델의 컨텍스트 인지 능력을 강화하는 동적 적응형 다중 스케일(Dynamic Adaptive Multi-scale, DAM) 모듈을 설계한다. 다음으로, Transformer 경로와 일관된 의미 주의(attention) 경로로 구성된 병목 모듈을 구축하고, 교차 주의 메커니즘을 통해 Transformer 경로 출력의 전역 의미 정보와 자기 주의 경로 출력의 국부 텍스처 정보를 융합하여 대규모 결손 장면에서 발생하는 구조 왜곡을 억제한다. 그런 다음, 전통적인 스킵 연결의 단순 결합으로 인한 의미 격차 문제를 완화하기 위해 적응형 다중 스케일 집계(Adaptive Multi-scale Aggregation, AMSA) 모듈을 도입하여 깊은 특징과 얕은 특징 간 상호작용 능력을 향상시키고 복원 이미지의 경계 연속성을 보장한다. 마지막으로, 복원 결과와 원본 이미지 간 일관성 평가를 위해 이중 판별기를 도입하여 생성 이미지의 시각적 인지적 사실감을 향상시킨다. 실험 결과, 해당 모델은 CelebA 데이터셋에서 PSNR 3.06 dB 향상, SSIM 0.087 증가, LPIPS 0.078 감소를 보였다. 또한 Paris StreetView 및 Places2 데이터셋에서 주관적 및 객관적 평가 지표가 비교 알고리즘보다 우수했다. 본 방법은 구조 일관성과 지각 수준 모두에서 일정한 향상을 이루어 대규모 손상 이미지 복원 작업에서 그 유효성을 검증하였다.

关键词

딥러닝; 이미지 복원; 생성적 적대 신경망; 다중 스케일 잔차; 구조 우선 정보; Transformer

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website