模型反演攻击是一种隐私攻击，它仅通过访问模型来重构用于训练机器学习模型的私有数据。近年来，利用生成对抗网络(Generative Adversarial Networks, GANs)从公共数据集中提取知识的白盒模型反演攻击因其出色的攻击性能而受到广泛关注。另一方面，目前利用GANs的黑盒模型反演攻击存在一些问题，例如无法保证在预定数量的查询访问内完成攻击过程，或实现与白盒攻击相同的性能水平。为克服这些限制，本文提出一种基于强化学习的黑盒模型反演攻击。本文将潜空间搜索表述为马尔可夫决策过程(MDP)问题，并使用强化学习来解决它。该方法利用生成图像的置信度分数为智能体提供奖励。最后，利用在MDP中训练的智能体找到的潜在向量来重构隐私数据。在多个数据集和模型上的实验结果表明，该攻击方法在取得最先进攻击性能的同时，成功地恢复了目标模型的隐私信息。本文通过提出一种更先进的黑盒模型反演攻击来强调隐私保护机器学习研究的重要性。
https://www.zhuanzhi.ai/paper/9ed3a5a3de3f2f121b1b49bffe5a7662
成为VIP会员查看完整内容
Reinforcement Learning-Based Black-Box Model Inversion Attacks
相关内容
CVPR 2023大会将于 6 月 18 日至 22 日在温哥华会议中心举行。CVPR是IEEE Conference on Computer Vision and Pattern Recognition的缩写，即IEEE国际计算机视觉与模式识别会议。该会议是由IEEE举办的计算机视觉和模式识别领域的顶级会议，会议的主要内容是计算机视觉与模式识别技术。
CVPR 2023 共收到 9155 份提交，比去年增加了 12%，创下新纪录，今年接收了 2360 篇论文，接收率为 25.78%。作为对比，去年有 8100 多篇有效投稿，大会接收了 2067 篇，接收率为 25%。
Arxiv
0+阅读 · 2023年5月29日
Arxiv
0+阅读 · 2023年5月29日
Arxiv
0+阅读 · 2023年5月26日
Arxiv
0+阅读 · 2023年5月25日
相关VIP内容
相关资讯
相关论文
Arxiv
0+阅读 · 2023年5月29日
Arxiv
0+阅读 · 2023年5月29日
Arxiv
0+阅读 · 2023年5月26日
Arxiv
0+阅读 · 2023年5月25日
微信扫码咨询专知VIP会员