【TPAMI2024】序列操作对排名聚合的攻击：理论与算法

成对比较的排名聚合广泛应用于社会学、政治学、经济学、心理学、体育等领域。鉴于其巨大的社会影响和随之而来的激励措施，潜在的对手有强烈的动机来操纵排名列表。然而，理想的攻击机会和过度的对抗能力使现有方法难以实际操作。为了充分探索潜在的风险，我们利用了在线攻击脆弱的数据收集过程。由于它独立于排名聚合并且缺乏有效的保护机制，我们通过伪造成对比较来干扰数据收集过程，而无需了解未来的数据或真实分布。从博弈论的角度来看，在线操纵者与控制原始数据源的排名者之间的对抗场景被表述为应对知识不确定性的分布鲁棒博弈。然后我们通过分析Bernoulli和水库等采样算法的脆弱性，证明了在上述博弈中，均衡可能对对手有利。根据上述理论分析，我们在贝叶斯决策框架和一大类参数成对比较模型下提出了不同的序列操作策略。对于完全掌握知识的攻击者，我们建立了所提出策略的渐近最优性。为了提高在不完全知识下进行序列操作的成功率，一个分布鲁棒估计器替代了鞍点问题中的最大似然估计，提供了一个保守的数据生成解决方案。最后，验证性的实证结果表明，所提出的方法能够以序列方式操纵排名聚合方法的结果。