MIT与FAIR提出「mixup」，利用数据和标签的随机线性插值提高神经网络的健壮性

2017 年 11 月 5 日 极市平台

↑ 点击蓝字关注极市平台识别先机创造未来

本文经公众号【雷克世界】授权转载（微信号：ROBO_AI）
论文来源:https://arxiv.org/pdf/1710.09412v1.pdf

作者：MIT、FAIR
编译：「雷克世界」嗯~阿童木呀

近日，麻省理工学院（MIT）与Facebook人工智能研究院（FAIR）联合发表了一篇题为《mixup：超越经验风险最小化》（mixup: BEYOND EMPIRICAL RISK MINIMIZATION）的论文，他们提出了一种能够构建虚拟训练样本的方法——mixup，提高了神经网络的健壮性。我们一起来看一看他们是如何做到的。

众所周知，大型深度神经网络是非常强大的，但在记忆和针对对抗样本的敏感性上却表现地不太理想。在这项研究中，我们提出了mixup，它是一个用以解决这些问题的简单学习原则。实质上，mixup是在样本对和其标签的凸组合（convex combinations）上训练神经网络的。通过这样做，mixup将神经网络正规化以支持训练样本之间的简单线性行为。我们分别在ImageNet-2012、CIFAR-10、CIFAR-100、Google命令和UCI数据集上进行试验，研究结果表明，mixup可以改进当前最先进的神经网络架构的泛化能力。我们还发现，mixup能够减少对错误标签的记忆，增加对抗样本的健壮性，并能够稳定对生成对抗网络的训练过程。

我们都知道，大型深度神经网络在计算机视觉（Krizhevsky 等人于2012年提出）、语音识别（Hinton 等人于2012年提出）和强化学习（Silver等人于2016年提出）等领域均实现了突破性发展。在大多数的成功应用中，这些神经网络有两个共同点：首先，它们进行训练以将其训练数据的平均误差最小化，这种学习规则也被称为经验风险最小化（Empirical Risk Minimization，ERM）原则（Vapnik于1998年提出）；其次，这些当前最先进的神经网络的大小与训练样本的数量呈线性关系。例如，Springenberg等人（于2015年提出）的网络使用10^6个参数来对CIFAR-10数据集中的5×10^4个图像进行建模，Simonyan和Zisserman（于2015年提出）的网络使用10^8个参数来对ImageNet-2012数据集中的10^6个图像进行建模，Chelba等人（于2013年提出）的网络使用2×10^10个参数对十亿单词（One Billion Word）数据集中的10^9个单词进行建模。

引人注目的是，学习理论（Vapnik和Chervonenkis于1971年提出）的经典结果告诉我们，只要学习机器（如神经网络）的大小不随着训练数据数量的增加而增加，那么ERM的收敛性就是可以得到保证的。其中，学习机器的大小是根据其参数数量，或相关地，根据其VC复杂度（Harvey等人于2017年提出）来衡量的。

这一矛盾挑战了ERM训练当前神经网络模型的适应性，正如在最近的研究中所强调的那样。一方面，ERM允许大型神经网络记忆（而不是从中泛化）训练数据，即使是在强正则化，或是标签是随机分配的分类问题（Zhang等人于2017年提出）中。另一方面，在对训练分布之外的样本（也被称之为对抗样本）进行评估时，用ERM训练的神经网络会彻底地改变其预测结果（Szegedy等人于2014年提出）。这一证据表明，当测试分布与训练数据略有不同时，ERM便无法对其进行解释或为其提供泛化。那么，ERM的替代方案是什么呢？

选择在类似但不相同的样本上进行训练以增加到训练数据中的方法称为数据增强（data augmentation）（Simard等人于1998年提出），而后由邻域风险最小化原则（Vicinal Risk Minimization，VRM）形式化（Chapelle等人于2000年提出）。在VRM中，需要用人类知识来描述训练数据中每个样本周围的邻域区域。然后，可以从训练样本的附近分布中提取附加的虚拟样本，以扩大训练分布的支持。例如，当进行图像分类时，通常将一个图像的邻域定义为其水平反射、轻微旋转和轻微缩放的集合。虽然一直以来，数据增强都会促使改进泛化能力（Simard等人于1998年提出），但是该过程是依赖于数据集的，因此需要使用专家知识。除此之外，数据扩充假设邻域中的样本共享相同的类，并且不对不同类的样本之间的邻域关系进行建模。

受到这些问题的启发，我们引入了一个简单的、并且和数据无关的数据扩充例程，称为mixup。简而言之，mixup能够构建虚拟的训练样本：

其中(xi,yi)和(xj,yj)是从我们的训练数据中随机抽取的两个样本，且λ∈[0,1]。因此，mixup通过结合先验知识，即特征向量的线性插值应该导致相关目标的线性插值，来扩展训练分布。Mixup在很少的几行代码中就可以得以实施，并且引入了最少的计算开销。

尽管它很简单，但mixup在CIFAR-10、CIFAR-100和ImageNet-2012图像分类数据集中实现了当前最先进的性能。此外，当从错误数据中进行学习，或面对对抗样本时，mixup能够增强神经网络的健壮性。最后，mixup能够改善在语音和表格数据中的泛化能力，并可用于稳定GAN的训练过程。相关实验的源代码资源链接：https：//coming.soon/mixup。

在此研究中，我们提出了mixup，一个和数据无关的、简单的数据增强原则。研究结果表明，mixup是邻域风险最小化的一种形式，它在虚拟样本（即构建为训练集中的两个随机样本及其标签的线性插值）中进行训练。将mixup集成到现有的训练管道中仅需要几行代码，并且很少或几乎没有计算开销。在广泛的评估中，结果已经表明，mixup改进了当前最先进的模型在ImageNet、CIFAR、语音和表格数据集中的泛化误差。此外，mixup有助于有助于消除对错误标签的记忆、对对抗样本的敏感性以及对抗训练的不稳定性。

在我们的实验中，以下思维趋势是一致的：随着α越来越大，实际数据的训练误差就会增加，而泛化差距会缩小。这就支持了我们的假设，即mixup隐式地控制了模型的复杂性。然而，我们还没有一个很好的理论来理解这种偏差—方差平衡（bias-variance trade-off）的“最佳点”。例如，在CIFAR-10分类中，即使在α → ∞（即仅对真实样本的平均值进行训练）的情况下，我们仍然可以在真实数据中获得非常低的训练误差。而在ImageNet分类中，当α → ∞时，真实数据的训练误差会显著增加。考虑到我们的ImageNet和Google命令实验是用不同的模型架构进行的，我们推测，增加模型容量会降低训练误差对较大的α的敏感性，从而给予mixup一个更大的优势。

与此同时，mixup还为进行进一步探索开辟了几种可能性。首先，是否有可能让类似的想法在其他类型的监督学习问题上发挥作用，比如回归和结构化预测？虽然将mixup泛化到回归问题是很简单的，但要将其应用到诸如图像分割这样的结构化预测问题上效果就不那么明显了。第二，类似的方法能否在监督学习之外的问题上有所帮助？插补原理似乎是一种合理的归纳偏置（inductive bias），即也有可能在无监督、半监督和强化学习中有所帮助。我们是否可以将mixup扩展到特征标签外插，以确保远离训练数据的强大的模型行为？虽然我们对这些方向的讨论仍然是具有推测性的，但我们对mixup未来所能开辟的可能性抱有极大的期待，并希望我们的观察结果将有助于未来的发展。