对抗样本攻击与防御是最近几年兴起的一个研究热点,攻击者通过微小的修改生成对抗样本来使深度神经网络预测出错。生成的对抗样本可以揭示神经网络的脆弱性,并可以修复这些脆弱的神经网络以提高模型的安全性和鲁棒性。对抗样本的攻击对象可以分为图像和文本两种,大部分研究方法和成果都针对图像领域,由于文本与图像本质上的不同,在攻击和防御方法上存在很多差异。该文对目前主流的文本对抗样本攻击与防御方法做出了较为详尽的介绍,同时说明了数据集、主流攻击的目标神经网络, 并比较了不同攻击方法的区别。最后总结文本对抗样本领域面临的挑战,并对未来的研究进行展望。

成为VIP会员查看完整内容
28

相关内容

自然语言处理(NLP)是语言学,计算机科学,信息工程和人工智能的一个子领域,与计算机和人类(自然)语言之间的相互作用有关,尤其是如何对计算机进行编程以处理和分析大量自然语言数据 。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
44+阅读 · 2021年9月9日
专知会员服务
30+阅读 · 2021年9月5日
专知会员服务
63+阅读 · 2021年5月29日
专知会员服务
43+阅读 · 2021年1月18日
专知会员服务
87+阅读 · 2021年1月17日
专知会员服务
62+阅读 · 2021年1月10日
专知会员服务
94+阅读 · 2020年12月8日
【综述】基于图的对抗式攻击和防御,附22页论文下载
专知会员服务
68+阅读 · 2020年3月5日
【浙江大学】对抗样本生成技术综述
专知会员服务
89+阅读 · 2020年1月6日
图像修复研究进展综述
专知
16+阅读 · 2021年3月9日
对抗攻击之利用水印生成对抗样本
计算机视觉life
10+阅读 · 2020年9月27日
一文读懂文本处理中的对抗训练
PaperWeekly
22+阅读 · 2019年6月5日
CVPR 2019 | 图像压缩重建也能抵御对抗样本
计算机视觉life
3+阅读 · 2019年4月26日
L2正则化视角下的对抗样本
论智
3+阅读 · 2018年7月8日
干货 | 对抗样本的基本原理
AI科技评论
7+阅读 · 2018年6月9日
Arxiv
0+阅读 · 2021年10月28日
Deflecting Adversarial Attacks
Arxiv
8+阅读 · 2020年2月18日
Arxiv
4+阅读 · 2018年4月26日
VIP会员
相关VIP内容
专知会员服务
44+阅读 · 2021年9月9日
专知会员服务
30+阅读 · 2021年9月5日
专知会员服务
63+阅读 · 2021年5月29日
专知会员服务
43+阅读 · 2021年1月18日
专知会员服务
87+阅读 · 2021年1月17日
专知会员服务
62+阅读 · 2021年1月10日
专知会员服务
94+阅读 · 2020年12月8日
【综述】基于图的对抗式攻击和防御,附22页论文下载
专知会员服务
68+阅读 · 2020年3月5日
【浙江大学】对抗样本生成技术综述
专知会员服务
89+阅读 · 2020年1月6日
相关资讯
图像修复研究进展综述
专知
16+阅读 · 2021年3月9日
对抗攻击之利用水印生成对抗样本
计算机视觉life
10+阅读 · 2020年9月27日
一文读懂文本处理中的对抗训练
PaperWeekly
22+阅读 · 2019年6月5日
CVPR 2019 | 图像压缩重建也能抵御对抗样本
计算机视觉life
3+阅读 · 2019年4月26日
L2正则化视角下的对抗样本
论智
3+阅读 · 2018年7月8日
干货 | 对抗样本的基本原理
AI科技评论
7+阅读 · 2018年6月9日
微信扫码咨询专知VIP会员