Self-supervised speech model is a rapid progressing research topic, and many pre-trained models have been released and used in various down stream tasks. For speech anti-spoofing, most countermeasures (CMs) use signal processing algorithms to extract acoustic features for classification. In this study, we use pre-trained self-supervised speech models as the front end of spoofing CMs. We investigated different back end architectures to be combined with the self-supervised front end, the effectiveness of fine-tuning the front end, and the performance of using different pre-trained self-supervised models. Our findings showed that, when a good pre-trained front end was fine-tuned with either a shallow or a deep neural network-based back end on the ASVspoof 2019 logical access (LA) training set, the resulting CM not only achieved a low EER score on the 2019 LA test set but also significantly outperformed the baseline on the ASVspoof 2015, 2021 LA, and 2021 deepfake test sets.


翻译:自我监督的语音模型是一个快速进步的研究课题,许多预先培训的模型已经发布并用于各种下流任务。 对于语言反伪学,大多数反措施(CMs)使用信号处理算法提取声学特性进行分类。在这项研究中,我们使用预先培训的自我监督语音模型作为模拟CMs的前端。我们调查了不同的后端结构,这些结构将与自我监督的前端相结合,细调前端的有效性,以及使用各种预先培训的自我监督模型的性能。我们的研究结果表明,当良好的前端前端经过培训的精细调整,在ASVspoof 2019逻辑访问(LA)成套培训中,以浅线或深神经网络为基础的后端进行精细调整时,因此,后端的ACM不仅在2019年LA测试中取得了低的EER分,而且大大超过了2015年ASVspofofofoc 2021 LA和2021深fake测试组的基准。

0
下载
关闭预览

相关内容

CMS:内容管理系统
专知会员服务
43+阅读 · 2021年5月26日
专知会员服务
22+阅读 · 2020年9月8日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
164+阅读 · 2020年3月18日
[综述]深度学习下的场景文本检测与识别
专知会员服务
77+阅读 · 2019年10月10日
深度自进化聚类:Deep Self-Evolution Clustering
我爱读PAMI
15+阅读 · 2019年4月13日
人工智能 | SCI期刊专刊/国际会议信息7条
Call4Papers
7+阅读 · 2019年3月12日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
已删除
将门创投
12+阅读 · 2018年6月25日
【推荐】深度学习时序处理文献列表
机器学习研究会
7+阅读 · 2017年11月29日
Arxiv
19+阅读 · 2021年4月8日
Phrase-Based & Neural Unsupervised Machine Translation
VIP会员
相关VIP内容
专知会员服务
43+阅读 · 2021年5月26日
专知会员服务
22+阅读 · 2020年9月8日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
164+阅读 · 2020年3月18日
[综述]深度学习下的场景文本检测与识别
专知会员服务
77+阅读 · 2019年10月10日
相关资讯
深度自进化聚类:Deep Self-Evolution Clustering
我爱读PAMI
15+阅读 · 2019年4月13日
人工智能 | SCI期刊专刊/国际会议信息7条
Call4Papers
7+阅读 · 2019年3月12日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
已删除
将门创投
12+阅读 · 2018年6月25日
【推荐】深度学习时序处理文献列表
机器学习研究会
7+阅读 · 2017年11月29日
Top
微信扫码咨询专知VIP会员