对抗学习 - 专知百科

对抗学习是一种机器学习技术，旨在通过提供欺骗性输入来欺骗模型。最常见的原因是导致机器学习模型出现故障。大多数机器学习技术旨在处理特定的问题集，其中从相同的统计分布（IID）生成训练和测试数据。当这些模型应用于现实世界时，对手可能会提供违反该统计假设的数据。可以安排此数据来利用特定漏洞并破坏结果。