【AAAI2022】自适应的随机平滑防御的鲁棒性认证方法

本文介绍被AAAI22接收的新工作。我们是第一个探索了 针对随机平滑(Randomized Smoothing)的高效的针对随机平滑的鲁棒性认证方法。随机平滑是一种常见且SOTA 的认证防御(certified defense)，但其一个主要缺点在于 鲁棒认证的时候计算开销过大。

论文题目：Input-Specific Robustness Certification for Randomized Smoothing

作者信息：Ruoxin Chen, Jie Li*, Junchi Yan, Ping Li, Bin Sheng

关键词：对抗攻击、可认证鲁棒、鲁棒性认证

那么现在问题在于，对于每个输入我如何确定该选用多大的采样数。我们这里给出了一种方案：先预设一个理想的采样数  (这个数一般很大，例如 1000,000)，我们将在 采样数下得到的 当作理想半径，而我们希望求出最小的采样数使得我们在该采样数下认证半径与理想半径的差小于等于一个定值，这个定值我们表示为 。实际上，这个最小采样数 只与 有关(当 与 给定)，于是我们就可以提前计算出一个函数 ,输入 就能得到 。具体的ISS认证过程如下图：

首先我们用少数样本去估计给定输入的 的区间范围，然后算出当 在这个范围内的时候 ，这个既是我们所用的采样数。

参考文献：

[1] Jeremy Cohen, Elan Rosenfeld, and Zico Kolter. Certified adversarial robustness via randomized smoothing. ICML 2019.

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“RCRS” 就可以获取《【AAAI2022】自适应的随机平滑防御的鲁棒性认证方法》专知下载链接

专知，专业可信的人工智能知识分发 ，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源