This paper proposes a new defense approach for counteracting with state-of-the-art white and black-box adversarial attack algorithms. Our approach fits in the category of implicit reactive defense algorithms since it does not directly manipulate the potentially malicious input signals. Instead, it reconstructs a similar signal with a synthesized spectrogram using a cyclic generative adversarial network. This cyclic framework helps to yield a stable generative model. Finally, we feed the reconstructed signal into the speech-to-text model for transcription. The conducted experiments on targeted and non-targeted adversarial attacks developed for attacking DeepSpeech, Kaldi, and Lingvo models demonstrate the proposed defense's effectiveness in adverse scenarios.


翻译:本文提出一种新的防御方法,以对抗最先进的白色和黑箱对抗性攻击算法。 我们的方法符合隐性反应性防御算法的类别,因为它没有直接操纵潜在的恶意输入信号。 相反,它利用循环基因对抗网络,用合成光谱图来重建类似的信号。 这个循环框架有助于形成一个稳定的基因化模型。 最后, 我们把重建后的信号输入到语音对文本模型中进行转录。 对为攻击DeepSpeech、Kaldi和Lingvo开发的定向和非有针对性的对抗性攻击的实验, 显示了拟议中的防御在不利情况下的有效性。

0
下载
关闭预览

相关内容

ACM/IEEE第23届模型驱动工程语言和系统国际会议,是模型驱动软件和系统工程的首要会议系列,由ACM-SIGSOFT和IEEE-TCSE支持组织。自1998年以来,模型涵盖了建模的各个方面,从语言和方法到工具和应用程序。模特的参加者来自不同的背景,包括研究人员、学者、工程师和工业专业人士。MODELS 2019是一个论坛,参与者可以围绕建模和模型驱动的软件和系统交流前沿研究成果和创新实践经验。今年的版本将为建模社区提供进一步推进建模基础的机会,并在网络物理系统、嵌入式系统、社会技术系统、云计算、大数据、机器学习、安全、开源等新兴领域提出建模的创新应用以及可持续性。 官网链接:http://www.modelsconference.org/
专知会员服务
44+阅读 · 2020年10月31日
【资源】语音增强资源集锦
专知
8+阅读 · 2020年7月4日
ICML2019:Google和Facebook在推进哪些方向?
专知
5+阅读 · 2019年6月13日
AI新方向:对抗攻击
网易智能菌
10+阅读 · 2018年11月14日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
12+阅读 · 2020年12月10日
Deflecting Adversarial Attacks
Arxiv
8+阅读 · 2020年2月18日
Adversarial Metric Attack for Person Re-identification
VIP会员
Top
微信扫码咨询专知VIP会员