CMU 2022最新课程《可信赖人工智能自主性（TAIAT）》

https://safeai-lab.github.io/

讲师 Ding Zhao

Ding Zhao是卡内基梅隆大学机械工程系助理教授。他还在计算机科学学院和 Wilton E. Scott 能源创新研究所的机器人研究所和机器学习系任职。他领导安全人工智能实验室，旨在通过桥接统计和控制论，在面对不确定、动态、时变、多代理和可能涉及人类的环境时，为机器人开发可验证、可解释、可验证和通用的人工智能。

他在自动/互联汽车和智能城市方面的研究综合了机器学习、机器人技术和设计方面的方法，在全球外享有盛誉。他的团队开发了严格的测试方法来验证人工智能驱动的机器人和学习/生成方法，这些方法使用大数据对操作环境进行建模，以支持视觉和决策制定。

他的研究获得了美国国家科学基金、交通部和能源部的资助。他还与全球领先的自动驾驶公司合作，包括优步、丰田和博世。实验室开发的方法和工具正在被行业和监管机构使用。他在 2021 年获得了 NSF 职业奖。

课程目标

机器学习是一个快速发展的领域。这对年轻一代来说是一个巨大的机会，但也是一个巨大的挑战，因为他们可能会迷失在技术新闻和报纸的金字塔中。本课程旨在实现两个目标：

• 帮助学生对快速发展的TAIAT领域有更高层次的了解，快速掌握关键概念和技能，并在研究生项目早期熟悉最新的技术工具，从而专注于一个方向，建立他们的专业知识；

• 培养全周期研究能力，包括论文评审、撰写研究计划、里程碑报告、学术论文、会议式论文评审、发表演讲和担任学术评论家。

课程提纲

1、概述、自主框架、可信赖自主；

2、深度学习基础、视觉模型；

3、潜在空间可视化，可解释性

4、安全攻击：中毒、逃避、FGSM、强大的物理攻击；

5、鲁棒性——对抗性和防御性机器学习：随机化、鲁棒性 AI、认证；

6、无模型决策：模仿学习、强化学习、Q 学习；

7、无模型深度强化学习：强化、演员-评论家；

8、基于模型的深度强化学习：MPC

9、高斯过程：GP；

10、安全性：CMDP、基于拉格朗日的方法（TRPO-lag、PPO-lag）、约束优化；

11、安全性：可达性、控制 Lyapunov、屏障功能；

12、认证：概述、数字孪生模拟、安全关键场景生成；

13、数字孪生——数据驱动：VAE、GAN 和 Flow；

14、数字孪生——对抗：最坏情况、IS、分裂；

15、泛化：使用真实世界的机器人、域随机化、DDPG、SAC；

16、泛化：非平稳环境：延迟、RARL、元学习、NP；

17、泛化：分层 AI、终身学习、DPGP

18、以人为本：隐私、公平

附 卡内基梅隆大学安全人工智能实验室

CMU 安全 AI 实验室旨在通过以下方式为机器人技术开发可靠、可解释、可验证和通用的人工智能学习方法，以应对不确定、动态、时变、多代理和可能涉及人类的环境。桥接统计和控制论。该实验室因其在自动驾驶/联网汽车和智能城市方面的研究而享誉国内外。该实验室与多家公司合作，包括优步、博世、电装和丰田，以及美国国家科学基金会、交通部、能源部和匹兹堡市。