Backdoor attacks (BA) are an emerging threat to deep neural network classifiers. A classifier being attacked will predict to the attacker's target class when a test sample from a source class is embedded with the backdoor pattern (BP). Recently, the first BA against point cloud (PC) classifiers was proposed, creating new threats to many important applications including autonomous driving. Such PC BAs are not detectable by existing BA defenses due to their special BP embedding mechanism. In this paper, we propose a reverse-engineering defense that infers whether a PC classifier is backdoor attacked, without access to its training set or to any clean classifiers for reference. The effectiveness of our defense is demonstrated on the benchmark ModeNet40 dataset for PCs.


翻译:后门攻击(BA)是对深层神经网络分类器的一种新威胁。 被攻击的分类器将预测攻击者的目标类别, 当源类的测试样本嵌入后门模式(BP ) 。 最近, 提出了第一个针对点云分类器的测试样本(BA ), 对包括自主驾驶在内的许多重要应用程序构成了新的威胁。 这种个人计算机攻击程序(BA) 无法被现有的BA防御装置所探测, 原因是其特殊的 BP 嵌入机制。 在本文中, 我们提出反向工程防御, 推断PC 分类器是否受到后门攻击, 没有机会获得其训练或任何清洁分类器参考。 我们的辩护效力在个人计算机的基准模式Net40数据集中得到了证明。

0
下载
关闭预览

相关内容

根据激光测量原理得到的点云,包括三维坐标(XYZ)和激光反射强度(Intensity)。 根据摄影测量原理得到的点云,包括三维坐标(XYZ)和颜色信息(RGB)。 结合激光测量和摄影测量原理得到点云,包括三维坐标(XYZ)、激光反射强度(Intensity)和颜色信息(RGB)。 在获取物体表面每个采样点的空间坐标后,得到的是一个点的集合,称之为“点云”(Point Cloud)
最新《计算机视觉持续学习进展》综述论文,22页pdf
专知会员服务
72+阅读 · 2021年9月25日
专知会员服务
43+阅读 · 2021年6月25日
专知会员服务
97+阅读 · 2020年12月8日
【深度学习视频分析/多模态学习资源大列表】
专知会员服务
91+阅读 · 2019年10月16日
[综述]深度学习下的场景文本检测与识别
专知会员服务
77+阅读 · 2019年10月10日
已删除
将门创投
10+阅读 · 2019年3月6日
Arxiv
0+阅读 · 2021年12月17日
Arxiv
12+阅读 · 2020年12月10日
Deflecting Adversarial Attacks
Arxiv
8+阅读 · 2020年2月18日
Arxiv
5+阅读 · 2018年5月16日
VIP会员
相关资讯
已删除
将门创投
10+阅读 · 2019年3月6日
相关论文
Top
微信扫码咨询专知VIP会员