State-of-the-art deep learning classifiers are heavily overparameterized with respect to the amount of training examples and observed to generalize well on "clean" data, but be highly susceptible to infinitesmal adversarial perturbations. In this paper, we identify an overparameterized linear ensemble, that uses the "lifted" Fourier feature map, that demonstrates both of these behaviors. The input is one-dimensional, and the adversary is only allowed to perturb these inputs and not the non-linear features directly. We find that the learned model is susceptible to adversaries in an intermediate regime where classification generalizes but regression does not. Notably, the susceptibility arises despite the absence of model mis-specification or label noise, which are commonly cited reasons for adversarial-susceptibility. These results are extended theoretically to a random-Fourier-sum setup that exhibits double-descent behavior. In both feature-setups, the adversarial vulnerability arises because of a phenomenon we term spatial localization: the predictions of the learned model are markedly more sensitive in the vicinity of training points than elsewhere. This sensitivity is a consequence of feature lifting and is reminiscent of Gibb's and Runge's phenomena from signal processing and functional analysis. Despite the adversarial susceptibility, we find that classification with these features can be easier than the more commonly studied "independent feature" models.


翻译:在培训实例数量方面,最先进的深层次学习分类方法被严重地过分地夸大了培训实例的数量,并被观察对“清洁”数据进行概括化,但很容易受到无限的对抗性扰动。在本文中,我们确定了一个过于分解的线性共性,使用“提升”的Fourier地貌图,以显示这两种行为。输入是一维的,而对手只能对这些投入进行扰动,而不是直接的非线性特征。我们发现,在分类一般但回归不明显的中间系统中,学习的模型很容易被对手所利用。值得注意的是,尽管没有模型的错误区分或标签的噪音,但这种易感性还是出现,而这正是常被引证的对抗性共同感知性。这些结果在理论上被扩展为随机的Fourier地貌组合,显示的是两种行为。在这两个特征设置中,对抗性脆弱性的产生是因为一种现象,我们称之为空间本地化:所学模型的预测在培训点附近比其他地方更敏感。这种敏感度是,尽管没有模型的模型缺乏模型的模型,但这种易感,但这种易感应变的特性是常规性分析的结果。

0
下载
关闭预览

相关内容

信号处理期刊采用了理论与实践的各个方面的信号处理。它以原始研究工作,教程和评论文章以及实际发展情况为特色。它旨在将知识和经验快速传播给从事信号处理研究,开发或实际应用的工程师和科学家。该期刊涵盖的主题领域包括:信号理论;随机过程; 检测和估计;光谱分析;过滤;信号处理系统;软件开发;图像处理; 模式识别; 光信号处理;数字信号处理; 多维信号处理;通信信号处理;生物医学信号处理;地球物理和天体信号处理;地球资源信号处理;声音和振动信号处理;数据处理; 遥感; 信号处理技术;雷达信号处理;声纳信号处理;工业应用;新的应用程序。 官网地址:http://dblp.uni-trier.de/db/journals/sigpro/
【干货书】机器学习速查手册,135页pdf
专知会员服务
125+阅读 · 2020年11月20日
专知会员服务
44+阅读 · 2020年10月31日
计算机视觉最佳实践、代码示例和相关文档
专知会员服务
17+阅读 · 2019年10月9日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
【论文笔记】通俗理解少样本文本分类 (Few-Shot Text Classification) (1)
深度学习自然语言处理
7+阅读 · 2020年4月8日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【学习】Hierarchical Softmax
机器学习研究会
4+阅读 · 2017年8月6日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
0+阅读 · 2021年11月19日
Interpretable Adversarial Training for Text
Arxiv
5+阅读 · 2019年5月30日
Feature Denoising for Improving Adversarial Robustness
Arxiv
15+阅读 · 2018年12月9日
Arxiv
7+阅读 · 2018年6月8日
Arxiv
4+阅读 · 2015年3月20日
VIP会员
相关资讯
【论文笔记】通俗理解少样本文本分类 (Few-Shot Text Classification) (1)
深度学习自然语言处理
7+阅读 · 2020年4月8日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【学习】Hierarchical Softmax
机器学习研究会
4+阅读 · 2017年8月6日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员