尽管神经网络在安全设置(如恶意软件检测)方面取得了相当大的成功，但事实证明，这种模型很容易受到规避攻击，即攻击者对输入(如恶意软件)稍加改变以绕过检测。我们提出了一种新的方法——傅里叶稳定，用于设计具有二值输入的规避鲁棒神经网络。这种方法与其他形式的防御方法是互补的，它用傅里叶分析工具推导出的健壮的类似物取代了单个神经元的权重。神经网络中稳定神经元的选择是一个组合优化问题，我们提出了几种近似求解方法。我们提供了一个由傅里叶稳定引起的每个神经元精度下降的正式界限，并通过实验证明了所提出的方法在几个检测设置中增强神经网络的鲁棒性的有效性。此外，我们还表明，我们的方法可以有效地与对抗性训练相结合。
https://www.zhuanzhi.ai/paper/7abfe62872f67236e2292f1ff2c4f7b5
成为VIP会员查看完整内容
Enhancing Robustness of Neural Networks through Fourier Stabilization
相关内容
人工神经网络（Artificial Neural Network，即ANN ），是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象， 建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。
最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展，其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。
相关资讯
微信扫码咨询专知VIP会员