Adversarial examples in neural networks have been extensively studied in Euclidean geometry, but recent advances in \textit{hyperbolic networks} call for a reevaluation of attack strategies in non-Euclidean geometries. Existing methods such as FGSM and PGD apply perturbations without regard to the underlying hyperbolic structure, potentially leading to inefficient or geometrically inconsistent attacks. In this work, we propose a novel adversarial attack that explicitly leverages the geometric properties of hyperbolic space. Specifically, we compute the gradient of the loss function in the tangent space of hyperbolic space, decompose it into a radial (depth) component and an angular (semantic) component, and apply perturbation derived solely from the angular direction. Our method generates adversarial examples by focusing perturbations in semantically sensitive directions encoded in angular movement within the hyperbolic geometry. Empirical results on image classification, cross-modal retrieval tasks and network architectures demonstrate that our attack achieves higher fooling rates than conventional adversarial attacks, while producing high-impact perturbations with deeper insights into vulnerabilities of hyperbolic embeddings. This work highlights the importance of geometry-aware adversarial strategies in curved representation spaces and provides a principled framework for attacking hierarchical embeddings.


翻译:神经网络中的对抗样本在欧几里得几何中已得到广泛研究,但近期\textit{双曲网络}的进展要求重新评估非欧几里得几何中的攻击策略。现有方法如FGSM和PGD施加扰动时未考虑底层的双曲结构,可能导致低效或几何不一致的攻击。本工作提出一种新颖的对抗攻击方法,显式利用双曲空间的几何特性。具体而言,我们在双曲空间的切空间中计算损失函数的梯度,将其分解为径向(深度)分量和角度(语义)分量,并仅基于角度方向施加扰动。该方法通过将扰动集中在双曲几何中角度运动编码的语义敏感方向上生成对抗样本。在图像分类、跨模态检索任务和网络架构上的实证结果表明,相比传统对抗攻击,我们的攻击实现了更高的欺骗率,同时产生具有高影响力的扰动,更深入地揭示了双曲嵌入的脆弱性。本工作强调了弯曲表示空间中几何感知对抗策略的重要性,并为攻击层次化嵌入提供了原则性框架。

0
下载
关闭预览

相关内容

【NeurIPS2024】几何轨迹扩散模型
专知会员服务
24+阅读 · 2024年10月20日
【CVPR2022】MSDN: 零样本学习的互语义蒸馏网络
专知会员服务
21+阅读 · 2022年3月8日
AAAI 2022 | ProtGNN:自解释图神经网络
专知
10+阅读 · 2022年2月28日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员