To achieve immersive spatial audio rendering on VR/AR devices, high-quality Head-Related Transfer Functions (HRTFs) are essential. In general, HRTFs are subject-dependent and position-dependent, and their measurement is time-consuming and tedious. To address this challenge, we propose the Graph Neural Field with Spatial-Correlation Augmentation (GraphNF-SCA) for HRTF personalization, which can be used to generate individual HRTFs for unseen subjects. The GraphNF-SCA consists of three key components: an HRTF personalization (HRTF-P) module, an HRTF upsampling (HRTF-U) module, and a fine-tuning stage. In the HRTF-P module, we predict HRTFs of the target subject via the Graph Neural Network (GNN) with an encoder-decoder architecture, where the encoder extracts universal features and the decoder incorporates the target-relevant features and produces individualized HRTFs. The HRTF-U module employs another GNN to model spatial correlations across HRTFs. This module is fine-tuned using the output of the HRTF-P module, thereby enhancing the spatial consistency of the predicted HRTFs. Unlike existing methods that estimate individual HRTFs position-by-position without spatial correlation modeling, the GraphNF-SCA effectively leverages inherent spatial correlations across HRTFs to enhance the performance of HRTF personalization. Experimental results demonstrate that the GraphNF-SCA achieves state-of-the-art results.


翻译:为实现VR/AR设备上的沉浸式空间音频渲染,高质量的头相关传输函数(HRTF)至关重要。一般而言,HRTF具有个体依赖性和位置依赖性,且其测量过程耗时且繁琐。为应对这一挑战,我们提出了基于空间相关性增强的图神经场(GraphNF-SCA)用于HRTF个性化,该方法可为未见过的个体生成个性化的HRTF。GraphNF-SCA包含三个关键组件:HRTF个性化(HRTF-P)模块、HRTF上采样(HRTF-U)模块以及微调阶段。在HRTF-P模块中,我们通过具有编码器-解码器架构的图神经网络(GNN)预测目标个体的HRTF,其中编码器提取通用特征,解码器则融合目标相关特征并生成个性化HRTF。HRTF-U模块采用另一GNN来建模HRTF间的空间相关性。该模块利用HRTF-P模块的输出进行微调,从而提升预测HRTF的空间一致性。与现有方法(逐位置估计个体HRTF且未建模空间相关性)不同,GraphNF-SCA有效利用了HRTF间固有的空间相关性以增强HRTF个性化性能。实验结果表明,GraphNF-SCA取得了最先进的结果。

0
下载
关闭预览

相关内容

AAAI 2022 | ProtGNN:自解释图神经网络
专知
10+阅读 · 2022年2月28日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员