虽然机器学习已被广泛应用于各个领域,但有一个领域显然未被触及,那就是为机器学习本身提供动力的工具的设计。在这项工作中,我们要问以下问题:机器学习中使用的算法的设计是否可能实现自动化?我们介绍了自动学习通用迭代优化算法的第一个框架。其关键思想是将优化算法的设计视为一个强化学习/最优控制问题,并将一个特定的更新公式(因此一个特定的优化算法)视为一个特定的策略。寻找最优策略对应于寻找最优优化算法。我们使用神经网络参数化更新公式,并使用强化学习训练它以避免复合误差问题。这激发了后续各种关于元学习的工作。
地址:
https://www.math.ias.edu/~ke.li/
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“LO74” 可以获取《【伯克利-Ke Li】学习优化,74页ppt,Learning to Optimize》专知下载链接索引