【AAAI 2022】IBM Research《对抗性机器学习AdvML》最新教程（附slides与video）

【作者介绍】
Pin-Yu Chen (陳品諭)：IBM Research AI，MIT-IBM Watson AI Lab研究员， RPI-IBM AIRC项目首席科学家。研究重点是对抗性机器学习和神经网络的鲁棒性，即可信赖机器学习。

【教程介绍】

对抗性机器学习 (AdvML) 是机器学习 (ML) 和人工智能 (AI) 中发展最快的研究领域之一。它研究最先进的机器学习模型（如神经网络）的对抗鲁棒性，从识别当前机器学习系统局限性的攻击、增强模型对各种对抗性威胁的性能的防御到量化鲁棒性水平的验证工具用于不同的应用。

与专注于对抗性攻击、防御或验证方法的传统对抗性机器学习 (AdvML) 教程不同，本教程旨在提供一个全新的概述，说明如何以完全不同的方式使用相同的技术来造福于主流机器学习任务并促进该研究领域的可持续发展。

除了 AdvML 的最新进展之外，本教程旨在提供有关“AdvML 的下一步是什么”的新方面，即永远的对抗性机器学习。“永远”一词有双重含义——新颖的创新和可持续性。

首先，本教程将介绍新兴的和新颖的应用程序，这些应用程序利用 AdvML 的经验来使主流 ML 任务受益，这与评估和提高对抗性鲁棒性的最初目标不同。这些示例包括 (i) 生成对比解释和反事实示例；(ii) 数据高效迁移学习的模型重新编程；(iii) 用于人工智能治理和所有权监管的模型水印和指纹识别；(iv) 隐藏数据以增强隐私。其次，随着与对抗性鲁棒性相关的提交数量呈爆炸式增长，本教程旨在从研究规范和伦理、当前趋势、开放挑战和未来等方面讨论这一年轻研究领域在持续和有机增长方面的可持续性方向。目标受众将是熟悉 AdvML 的 ML/AI 研究人员，以及有兴趣进入该领域的研究人员。演讲者还将分享他对工业实践的看法。

【教程提纲】

• 当前趋势:介绍对抗机器学习(攻击、防御、验证)的最新进展
• 受 AdvML 启发的创新
  • 生成对比解释和反事实示例（Dhurandhar et al. 2018; Luss et al.2021）
  • 用于数据高效迁移学习的模型重新编程（Tsai、Chen 和 Ho 2020；Yang、Tsai 和 Chen 2021； Vinod、Chen 和 Das 2020）
  • 用于 AI 治理和所有权监管的模型水印和指纹识别（Aramoon、Chen 和 Qu 2021；Wang 等人 2021）
  • 数据隐藏以增强隐私和数据安全性（Shan et al. 2020; Sablayrolles et al. 2020）
  • 用于改进模型泛化的数据增强 (Hsu et al. 2021)
  • 词嵌入中的语义偏移检测（Gruppi、Adali 和 Chen 2021）
  • 鲁棒文本验证码 (Shao et al. 2021)
  • 分子优化 (Hoffman et al. 2022)
• AdvML研究的可持续性