【ICML2019 Tutorials】基于种群搜索的深层神经网络研究进展：质量多样性、间接编码和开放式算法（Recent Advances in Population-Based Search for Deep Neural Networks: Quality Diversity, Indirect Encodings, and Open-Ended Algorithms）

主题： Recent Advances in Population-Based Search for Deep Neural Networks: Quality Diversity, Indirect Encodings, and Open-Ended Algorithms

摘要： 我们的演讲将涵盖新的，令人兴奋的，非传统的技术，以改善基于人口的搜索。它们也为进一步推进机器学习，包括深层神经网络。主要内容包括：（1）明确地搜索行为多样性（在低维空间，多样性本来就很有趣，比如机器人的行为，而不是在真正的搜索空间，比如控制机器人的DNN的权重），特别是质量多样性算法，它们在机器人技术方面产生了最先进的成果，并解决了Montezuma复仇的艰难探索RL挑战的一个版本；（2）开放式搜索，其中算法无限制地不断创造新的和越来越复杂的能力，例如同时发明新的挑战及其解决方案；（3）间接编码（如超净/超网络），其中一个网络编码如何构建更大的神经网络或学习系统。这一想法是由生物发展所推动的，在几千个基因的空间中进行搜索，就可以确定一个万亿连接的大脑及其学习算法。最后，我们讨论了当前和未来传统机器学习与这些思想的混合，包括如何用它们增强元学习为我们最雄心勃勃的人工智能目标提供了一条替代道路。

邀请嘉宾： Jeff Clune，是怀俄明大学（University of Wyoming）计算机科学系的副教授，Uber人工智能实验室的高级研究经理和创始成员，Uber人工智能实验室是Uber收购他所参与的一家初创企业后成立的。Jeff专注于机器人技术，通过深度学习（包括深度强化学习）训练深度神经网络。在成为教授之前，他是康奈尔大学的研究科学家，并获得密歇根州立大学（博士、硕士）和密歇根大学（学士）的学位。

Joel Lehman是Uber-AI实验室的资深研究科学家，此前曾是哥本哈根IT大学的助理教授。他的研究涉及人工智能安全、神经进化、强化学习和深度学习。

Kenneth O. Stanley是Central Florida大学计算机科学系的教授，也是进化复杂性研究小组的负责人。他还是几何智能公司（Geometric Intelligence Inc.）的联合创始人，Uber收购该公司是为了创建Uber人工智能实验室，他现在也是该公司的高级研究科学经理和核心人工智能研究主管。他于1997年获得宾夕法尼亚大学学士学位，2004年获得德克萨斯大学奥斯汀分校博士学位。他是扩充拓扑（near）、超纯拓扑（hypernear）和新颖搜索神经进化算法的发明者，这些算法用于进化复杂的人工神经网络。他的主要研究成果包括神经进化（即进化神经网络）、生成和发展系统、协同进化、视频游戏的机器学习、交互进化和开放进化。他曾因在《整洁》、《尼禄》、《整洁鼓手》、《FSMC》、《超整洁》、《新奇搜索》和《银河军备竞赛》上的工作而获得最佳论文奖。他2002年发表在《整洁》杂志上的论文也获得了国际人工生命学会颁发的2017年国际人工生命研究所2002-2012十年杰出论文奖。他与人合著了一本科普书《为什么不能规划伟大：目标的神话》（由斯普林格出版），并就这本书的主题发表了广泛的言论。