像对手一样思考,守护AI的未来
《Red Teaming AI:智能系统的攻击与防御》是一本超过1060页的实战手册,专为安全团队、机器学习工程师和技术领导者打造,教你如何“攻破”并加固现代人工智能系统。
对抗性攻击技巧:数据投毒、推理时规避攻击、模型窃取、LLM提示注入等 * 实战防御策略:稳健训练、MLSecOps流程加固、实时威胁检测 * 大模型与智能体安全:针对ChatGPT类模型的越狱技术及其缓解措施 * 以人为本的威胁场景:深度伪造、AI驱动的社交工程、欺骗防御机制 * STRATEGEMS™ 框架:一套专有的、受“超对抗博弈”启发的方法论,用于大规模AI红队演练
作者Philip A. Dursey是三次创业的AI创始人、前首席信息安全官(CISO),拥有保护数十亿美元基础设施的经验,现领导HYPERGAME的前沿安全研究团队。