RL向左？几何深度学习向右？通往第三代人工智能的理论之路如何走？

2022 年 1 月 24 日 机器之心

目前，机器学习系统可以解决计算机视觉、语音识别和自然语言处理等诸多领域的一系列挑战性问题，但设计出媲美人类推理的灵活性和通用性的学习赋能（learning-enable）系统仍是遥不可及的事情。这就引发了很多关于「现代机器学习可能缺失了哪些成分」的讨论，并就该领域必须解决哪些大问题提出了很多假设。问题来了：这些缺失的成分是因果推理、归纳偏置、更好的自监督或无监督学习算法，还是其他完全不同的东西？

在 2021 年 10 月份的论文中，强化学习大牛、UC 伯克利电气工程与计算机科学助理教授 Sergey Levine 提出并对这一问题进行了深入探讨。该研究认为利用强化学习可以衍生出一个通用的、有原则的、功能强大的框架来利用未标记数据，使用通用的无监督或自监督强化学习目标，配合离线强化学习方法，可以利用大型数据集。此外，该研究还讨论了这样的过程如何与潜在的下游任务更紧密地结合起来，以及它如何基于近年来开发的现有技术实现的。

与此同时，图神经网络 (GNN) 领域取得了快速且惊人的进展。图神经网络，也称为图深度学习、图表示学习或几何深度学习，已成为机器学习尤其是深度学习中发展最快的研究课题之一。这一批涌现的图论和深度学习交叉的研究也影响了其他科学领域，包括推荐系统、计算机视觉、自然语言处理、归纳逻辑编程、程序合成、软件挖掘、自动化规划、网络安全和智能交通。

虽然图神经网络已经获得了极大的关注，但在将其应用到其他领域时仍然面临着许多挑战，从对方法的理论理解到实际系统中的可扩展性和可解释性，从方法的健全性到在实际系统应用中的经验表现。尽管该领域实现了快速发展，从全局视角了解 GNN 的发展却始终极具挑战性。

人们已经意识到人工智能正存在巨大的局限性，它能够解决的问题非常有限。第一代、第二代人工智能只能解决如下条件的问题：存在丰富知识，具有确定性、完全信息、在确定领域中，以静态或按照确定领域演化的问题。

在即将到来的一年里，在人工智能理论这条漫漫长路之上，将有哪些值得期待的方向呢？

2022 年 1 月 24 日晚 7 点，在机器之心年度特别策划「驱动未来的 AI 技术 —— 2021-2022 年度 AI 技术趋势洞察」的「理论专场」来自华为诺亚方舟决策推理实验室主任郝建业教授、数学科学学院王宇光教授及清华大学智能产业研究院黄文炳教授三位嘉宾将做客机器之心「2020-2021 年度 AI 技术趋势洞察」直播间，分别通过技术报告介绍自监督深度学习、几何深度学习的最新进展与思考、并共同就「通往第三代人工智能的理论之路如何走？」等话题进行探讨。

技术报告：自监督强化学习

郝建业，华为诺亚方舟决策推理实验室主任

郝建业博士，华为诺亚方舟决策推理实验室主任。主要研究方向为深度强化学习、多智能体系统。发表人工智能领域国际会议和期刊论文 100 余篇，专著 2 部。主持参与国家基金委、科技部、天津市人工智能重大等科研项目 10 余项，研究成果荣获 ASE2019、DAI2019、CoRL2020 最佳论文奖等，同时在游戏 AI、广告及推荐、自动驾驶、网络优化等领域落地应用。

技术报告：几何深度学习的算法设计和数学理论

王宇光，上海交通大学自然科学研究院、数学科学学院副教授

王宇光，现为上海交通大学自然科学研究院和数学科学学院副教授。2021 年 7 月入职前为马克斯普朗克研究所研究科学家。2015 年获新南威尔士大学数学博士。近三年有关于图神经网络和几何深度学习的算法和数学理论有二十余篇文章发表在数学和计算机顶刊 Appl. Comput. Harmon. Anal.，SINUM，FoCM，JMLR，和机器学习顶会 ICML，NeurIPS。2021 年有两篇相关 ICML 文章入选亮点文章。其设计的快速向量球调和变换算法 2021 年被数学软件顶尖杂志 ACM TOMS 算法库收录（Algorithm 1018）。

趋势圆桌：

RL 向左？几何深度学习向右？

通往第三代人工智能的理论之路如何走？

郝建业，华为诺亚方舟决策推理实验室主任
王宇光，上海交通大学自然科学研究院、数学科学学院副教授
黄文炳，清华大学智能产业研究院（AIR）助理教授

黄文炳，现为清华大学智能产业研究院（AIR）助理教授。2017 年取得清华大学计算机科学与技术博士学位，2012 年取得北京航空航天大学数学与应用数学学士学位。主要研究兴趣为图神经网络理论方法及其在物理系统的表示与决策、智能化学药物发现等任务上的应用。在人工智能领域顶级会议或期刊（NeurIPS、ICLR、TPAMI 等）发表论文 30 余篇，近 5 年谷歌学术引用近 2700 次。曾获国际会议 IROS 机器人比赛冠军、NeurIPS 杰出审稿人、IJCAI 顶级 SPC、腾讯犀牛鸟专项研究卓越奖等奖项。

2022 年 1 月 24 日 —— 1 月 28 日精彩议程如下：

作为「与 AI 俱进，化时光为翎」机器之心 2021-2022 跨年特别策划中的重要组成部分，「机器之心 2021-2022 年度 AI 趋势大咖说」聚焦「驱动未来的 AI 技术」与「重塑产业的 AI 科技」，推出线上分享，邀请行业精英、读者、观众共同回顾 2021 年中的重要技术和学术热点，盘点 AI 产业的年度研究方向以及重大科技突破，展望 2022 年度 AI 技术发展方向、AI 技术与产业科技融合趋势。

2022 年 1 月 24 日（周一）至 1 月 28 日（周五）每晚 7 点至 9 点，近 20 位高校教授、技术专家及技术企业高管将做客机器之心「2020-2021 年度 AI 技术趋势洞察」直播间，共同探讨「通往第三代人工智能的理论之路如何走？」、「通用（大）模型的最后一公里」、「如何突破 AI 实践中的资源限制与壁垒？」、「构建元宇宙基础设施的 AI 技术」和「通向可信人工智能的技术路径」五个与 AI 技术人息息相关话题，洞察 AI 技术在「AI 算法理论」、「ML 模型架构」、「AI 算法工程化」及「热点 AI 应用技术」四大方面的发展趋势与潮水所向。关注机器之心机动组视频号，1 月 24 日晚 7 点开播！