Motivated by the need to reliably characterize the robustness of deep neural networks, researchers have developed verification algorithms for deep neural networks. Given a neural network, the verifiers aim to answer whether certain properties are guaranteed with respect to all inputs in a space. However, little attention has been paid to floating point numerical error in neural network verification. We show that the negligence of floating point error is easily exploitable in practice. For a pretrained neural network, we present a method that efficiently searches inputs regarding which a complete verifier incorrectly claims the network is robust. We also present a method to construct neural network architectures and weights that induce wrong results of an incomplete verifier. Our results highlight that, to achieve practically reliable verification of neural networks, any verification system must accurately (or conservatively) model the effects of any floating point computations in the network inference or verification system.


翻译:由于需要可靠地确定深层神经网络的坚固性,研究人员为深层神经网络制定了核查算法;鉴于神经网络,核查人员旨在回答空间中所有投入的某些属性是否得到保障的问题;然而,对神经网络核查中浮点数错误很少注意。我们表明,浮点误差的疏忽在实践中很容易被利用。对于训练有素的神经网络,我们提出了一个有效搜索投入的方法,对于这些投入,一个完整的核查者错误地声称网络是健全的。我们还提出了一个构建神经网络结构和重量的方法,造成不完整核查者错误的结果。我们的结果强调,为了实现对神经网络的实际可靠的核查,任何核查系统都必须准确(或保守地)地)模拟网络中任何浮点计算的影响。

0
下载
关闭预览

相关内容

神经网络(Neural Networks)是世界上三个最古老的神经建模学会的档案期刊:国际神经网络学会(INNS)、欧洲神经网络学会(ENNS)和日本神经网络学会(JNNS)。神经网络提供了一个论坛,以发展和培育一个国际社会的学者和实践者感兴趣的所有方面的神经网络和相关方法的计算智能。神经网络欢迎高质量论文的提交,有助于全面的神经网络研究,从行为和大脑建模,学习算法,通过数学和计算分析,系统的工程和技术应用,大量使用神经网络的概念和技术。这一独特而广泛的范围促进了生物和技术研究之间的思想交流,并有助于促进对生物启发的计算智能感兴趣的跨学科社区的发展。因此,神经网络编委会代表的专家领域包括心理学,神经生物学,计算机科学,工程,数学,物理。该杂志发表文章、信件和评论以及给编辑的信件、社论、时事、软件调查和专利信息。文章发表在五个部分之一:认知科学,神经科学,学习系统,数学和计算分析、工程和应用。 官网地址:http://dblp.uni-trier.de/db/journals/nn/
【NeurIPS2020】可靠图神经网络鲁棒聚合
专知会员服务
20+阅读 · 2020年11月6日
最新《高斯过程回归简明教程》,19页pdf
专知会员服务
72+阅读 · 2020年9月30日
专知会员服务
167+阅读 · 2020年7月27日
商业数据分析,39页ppt
专知会员服务
164+阅读 · 2020年6月2日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
31+阅读 · 2019年10月17日
【新书】Python编程基础,669页pdf
专知会员服务
196+阅读 · 2019年10月10日
已删除
将门创投
4+阅读 · 2018年7月31日
Arxiv
0+阅读 · 2021年6月10日
Pointer Graph Networks
Arxiv
7+阅读 · 2020年6月11日
Neural Approaches to Conversational AI
Arxiv
8+阅读 · 2018年12月13日
Arxiv
3+阅读 · 2018年8月17日
VIP会员
相关VIP内容
【NeurIPS2020】可靠图神经网络鲁棒聚合
专知会员服务
20+阅读 · 2020年11月6日
最新《高斯过程回归简明教程》,19页pdf
专知会员服务
72+阅读 · 2020年9月30日
专知会员服务
167+阅读 · 2020年7月27日
商业数据分析,39页ppt
专知会员服务
164+阅读 · 2020年6月2日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
31+阅读 · 2019年10月17日
【新书】Python编程基础,669页pdf
专知会员服务
196+阅读 · 2019年10月10日
相关资讯
已删除
将门创投
4+阅读 · 2018年7月31日
Top
微信扫码咨询专知VIP会员