Modern surveillance systems increasingly rely on multi-wavelength sensors and deep neural networks to recognize faces in infrared images captured at night. However, most facial recognition models are trained on visible light datasets, leading to substantial performance degradation on infrared inputs due to significant domain shifts. Early feature-based methods for infrared face recognition proved ineffective, prompting researchers to adopt generative approaches that convert infrared images into visible light images for improved recognition. This paradigm, known as Heterogeneous Face Recognition (HFR), faces challenges such as model and modality discrepancies, leading to distortion and feature loss in generated images. To address these limitations, this paper introduces a novel latent diffusion-based model designed to generate high-quality visible face images from thermal inputs while preserving critical identity features. A multi-attribute classifier is incorporated to extract key facial attributes from visible images, mitigating feature loss during infrared-to-visible image restoration. Additionally, we propose the Self-attn Mamba module, which enhances global modeling of cross-modal features and significantly improves inference speed. Experimental results on two benchmark datasets demonstrate the superiority of our approach, achieving state-of-the-art performance in both image quality and identity preservation.


翻译:现代监控系统日益依赖多波长传感器与深度神经网络来识别夜间采集的红外图像中的人脸。然而,大多数人脸识别模型均在可见光数据集上训练,由于显著的域偏移,在红外输入上性能大幅下降。早期的基于特征的红外人脸识别方法被证明效果有限,促使研究者转向生成式方法,即将红外图像转换为可见光图像以提升识别性能。这一范式被称为异质人脸识别,面临模型与模态差异等挑战,导致生成图像出现畸变与特征丢失。为克服这些局限,本文提出一种新颖的基于潜在扩散的模型,旨在从热成像输入生成高质量的可见光人脸图像,同时保留关键身份特征。我们引入了一个多属性分类器,用于从可见光图像中提取关键人脸属性,以缓解红外到可见光图像恢复过程中的特征损失。此外,我们提出了自注意力Mamba模块,该模块增强了跨模态特征的全局建模能力,并显著提升了推理速度。在两个基准数据集上的实验结果表明,我们的方法在图像质量与身份特征保持方面均达到了最先进的性能。

0
下载
关闭预览

相关内容

【AAAI 2022】跨模态目标跟踪: 模态感知表示和统一基准
专知会员服务
44+阅读 · 2022年1月6日
CVPR 2019 | 无监督领域特定单图像去模糊
PaperWeekly
14+阅读 · 2019年3月20日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员