会员服务
机器学习 · 优化 ·
2020 年 7 月 23 日
【伯克利-Ke Li】学习优化，74页ppt，Learning to Optimize
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

虽然机器学习已被广泛应用于各个领域，但有一个领域显然未被触及，那就是为机器学习本身提供动力的工具的设计。在这项工作中，我们要问以下问题:机器学习中使用的算法的设计是否可能实现自动化?我们介绍了自动学习通用迭代优化算法的第一个框架。其关键思想是将优化算法的设计视为一个强化学习/最优控制问题，并将一个特定的更新公式(因此一个特定的优化算法)视为一个特定的策略。寻找最优策略对应于寻找最优优化算法。我们使用神经网络参数化更新公式，并使用强化学习训练它以避免复合误差问题。这激发了后续各种关于元学习的工作。

地址：

https://www.math.ias.edu/~ke.li/

成为VIP会员查看完整内容
https://www.sfu.ca/~keli/
【74页ppt】Learning to Optimize
40

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律，并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论，机器学习与统计推断学联系尤为密切，也被称为统计学习理论。算法设计方面，机器学习理论关注可以实现的，行之有效的学习算法。很多 推论问题属于 无程序可循难度，所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
一图搞定ML！2020版机器学习技术路线图，35页ppt
一图搞定ML！2020版机器学习技术路线图，35页ppt
专知会员服务
93+阅读 · 2020年7月28日
【ICML2020-Tutorial】因果强化学习-CRL，147页ppt，哥伦比亚大学-Elias Bareinboim
【ICML2020-Tutorial】因果强化学习-CRL，147页ppt，哥伦比亚大学-Elias Bareinboim
专知会员服务
91+阅读 · 2020年7月16日
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
专知会员服务
72+阅读 · 2020年7月6日
【ICML2020】拉普拉斯正则化小样本学习，Laplacian Regularized Few-Shot Learning
【ICML2020】拉普拉斯正则化小样本学习，Laplacian Regularized Few-Shot Learning
专知会员服务
76+阅读 · 2020年6月28日
【硬核课】最新《深度学习优化问题》教程，78页ppt，台大林智仁教授讲解
【硬核课】最新《深度学习优化问题》教程，78页ppt，台大林智仁教授讲解
专知会员服务
148+阅读 · 2020年5月29日
因果关联学习，Causal Relational Learning
因果关联学习，Causal Relational Learning
专知会员服务
182+阅读 · 2020年4月21日
【爱丁堡大学】最新《元学习meta learning)》2020综述论文大全，23页pdf289篇参考文献
【爱丁堡大学】最新《元学习meta learning)》2020综述论文大全，23页pdf289篇参考文献
专知会员服务
222+阅读 · 2020年4月17日
深度强化学习策略梯度教程，53页ppt
深度强化学习策略梯度教程，53页ppt
专知会员服务
178+阅读 · 2020年2月1日
【ML热点】贝叶斯学习与深度学习如何结合？看这份《贝叶斯深度学习 Deep Learning with Bayesian Principles 》NeurIPS2019硬核教程
【ML热点】贝叶斯学习与深度学习如何结合？看这份《贝叶斯深度学习 Deep Learning with Bayesian Principles 》NeurIPS2019硬核教程
专知会员服务
116+阅读 · 2019年12月22日
【Pieter Abbeel 报告@CMU】元学习与深度强化学习机器人应用，Deep Learning to Learn，84页ppt
【Pieter Abbeel 报告@CMU】元学习与深度强化学习机器人应用，Deep Learning to Learn，84页ppt
专知会员服务
31+阅读 · 2019年10月12日
元迁移学习的小样本学习，Meta-transfer Learning for Few-shot Learning，33页ppt
元迁移学习的小样本学习，Meta-transfer Learning for Few-shot Learning，33页ppt
专知
71+阅读 · 2020年2月29日
贝叶斯与深度学习如何结合？看这份《贝叶斯深度学习: DL与Bayesian原理 》NeurIPS2019硬核教程
贝叶斯与深度学习如何结合？看这份《贝叶斯深度学习: DL与Bayesian原理 》NeurIPS2019硬核教程
专知
53+阅读 · 2019年12月22日
元学习—Meta Learning的兴起
元学习—Meta Learning的兴起
专知
44+阅读 · 2019年10月19日
强化学习扫盲贴：从Q-learning到DQN
强化学习扫盲贴：从Q-learning到DQN
夕小瑶的卖萌屋
52+阅读 · 2019年10月13日
Meta-Learning 元学习：学会快速学习
Meta-Learning 元学习：学会快速学习
专知
24+阅读 · 2018年12月8日
Hierarchical Imitation - Reinforcement Learning
Hierarchical Imitation - Reinforcement Learning
CreateAMind
19+阅读 · 2018年5月25日
学习如何学习的算法：简述元学习研究方向现状
学习如何学习的算法：简述元学习研究方向现状
深度学习世界
6+阅读 · 2018年4月9日
【教程】如何估算深度神经网络的最优学习率
【教程】如何估算深度神经网络的最优学习率
GAN生成式对抗网络
5+阅读 · 2017年11月18日
教程 | 如何估算深度神经网络的最优学习率
教程 | 如何估算深度神经网络的最优学习率
机器之心
3+阅读 · 2017年11月17日
Representation Learning on Network 网络表示学习笔记
Representation Learning on Network 网络表示学习笔记
全球人工智能
5+阅读 · 2017年9月30日
Reinforcement Learning Enhanced Quantum-inspired Algorithm for Combinatorial Optimization
Arxiv
4+阅读 · 2020年2月14日
Optimization for deep learning: theory and algorithms
Optimization for deep learning: theory and algorithms
Arxiv
104+阅读 · 2019年12月19日
Self-Supervised Learning For Few-Shot Image Classification
Self-Supervised Learning For Few-Shot Image Classification
Arxiv
19+阅读 · 2019年11月14日
Learning to Learn and Predict: A Meta-Learning Approach for Multi-Label Classification
Learning to Learn and Predict: A Meta-Learning Approach for Multi-Label Classification
Arxiv
17+阅读 · 2019年9月9日
Hierarchical Meta Learning
Arxiv
9+阅读 · 2019年4月19日
Meta-Transfer Learning for Few-Shot Learning
Meta-Transfer Learning for Few-Shot Learning
Arxiv
8+阅读 · 2018年12月6日
A Framework of Transfer Learning in Object Detection for Embedded Systems
Arxiv
3+阅读 · 2018年11月12日
Transfer Learning with Neural AutoML
Arxiv
5+阅读 · 2018年9月11日
Learning Blind Video Temporal Consistency
Learning Blind Video Temporal Consistency
Arxiv
3+阅读 · 2018年8月1日
The Matrix Calculus You Need For Deep Learning
The Matrix Calculus You Need For Deep Learning
Arxiv
12+阅读 · 2018年7月2日
VIP会员
相关主题
机器学习
优化
相关VIP内容
一图搞定ML！2020版机器学习技术路线图，35页ppt
一图搞定ML！2020版机器学习技术路线图，35页ppt
专知会员服务
93+阅读 · 2020年7月28日
【ICML2020-Tutorial】因果强化学习-CRL，147页ppt，哥伦比亚大学-Elias Bareinboim
【ICML2020-Tutorial】因果强化学习-CRL，147页ppt，哥伦比亚大学-Elias Bareinboim
专知会员服务
91+阅读 · 2020年7月16日
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
专知会员服务
72+阅读 · 2020年7月6日
【ICML2020】拉普拉斯正则化小样本学习，Laplacian Regularized Few-Shot Learning
【ICML2020】拉普拉斯正则化小样本学习，Laplacian Regularized Few-Shot Learning
专知会员服务
76+阅读 · 2020年6月28日
【硬核课】最新《深度学习优化问题》教程，78页ppt，台大林智仁教授讲解
【硬核课】最新《深度学习优化问题》教程，78页ppt，台大林智仁教授讲解
专知会员服务
148+阅读 · 2020年5月29日
因果关联学习，Causal Relational Learning
因果关联学习，Causal Relational Learning
专知会员服务
182+阅读 · 2020年4月21日
【爱丁堡大学】最新《元学习meta learning)》2020综述论文大全，23页pdf289篇参考文献
【爱丁堡大学】最新《元学习meta learning)》2020综述论文大全，23页pdf289篇参考文献
专知会员服务
222+阅读 · 2020年4月17日
深度强化学习策略梯度教程，53页ppt
深度强化学习策略梯度教程，53页ppt
专知会员服务
178+阅读 · 2020年2月1日
【ML热点】贝叶斯学习与深度学习如何结合？看这份《贝叶斯深度学习 Deep Learning with Bayesian Principles 》NeurIPS2019硬核教程
【ML热点】贝叶斯学习与深度学习如何结合？看这份《贝叶斯深度学习 Deep Learning with Bayesian Principles 》NeurIPS2019硬核教程
专知会员服务
116+阅读 · 2019年12月22日
【Pieter Abbeel 报告@CMU】元学习与深度强化学习机器人应用，Deep Learning to Learn，84页ppt
【Pieter Abbeel 报告@CMU】元学习与深度强化学习机器人应用，Deep Learning to Learn，84页ppt
专知会员服务
31+阅读 · 2019年10月12日
热门VIP内容
相关资讯
元迁移学习的小样本学习，Meta-transfer Learning for Few-shot Learning，33页ppt
元迁移学习的小样本学习，Meta-transfer Learning for Few-shot Learning，33页ppt
专知
71+阅读 · 2020年2月29日
贝叶斯与深度学习如何结合？看这份《贝叶斯深度学习: DL与Bayesian原理 》NeurIPS2019硬核教程
贝叶斯与深度学习如何结合？看这份《贝叶斯深度学习: DL与Bayesian原理 》NeurIPS2019硬核教程
专知
53+阅读 · 2019年12月22日
元学习—Meta Learning的兴起
元学习—Meta Learning的兴起
专知
44+阅读 · 2019年10月19日
强化学习扫盲贴：从Q-learning到DQN
强化学习扫盲贴：从Q-learning到DQN
夕小瑶的卖萌屋
52+阅读 · 2019年10月13日
Meta-Learning 元学习：学会快速学习
Meta-Learning 元学习：学会快速学习
专知
24+阅读 · 2018年12月8日
Hierarchical Imitation - Reinforcement Learning
Hierarchical Imitation - Reinforcement Learning
CreateAMind
19+阅读 · 2018年5月25日
学习如何学习的算法：简述元学习研究方向现状
学习如何学习的算法：简述元学习研究方向现状
深度学习世界
6+阅读 · 2018年4月9日
【教程】如何估算深度神经网络的最优学习率
【教程】如何估算深度神经网络的最优学习率
GAN生成式对抗网络
5+阅读 · 2017年11月18日
教程 | 如何估算深度神经网络的最优学习率
教程 | 如何估算深度神经网络的最优学习率
机器之心
3+阅读 · 2017年11月17日
Representation Learning on Network 网络表示学习笔记
Representation Learning on Network 网络表示学习笔记
全球人工智能
5+阅读 · 2017年9月30日
相关论文
Reinforcement Learning Enhanced Quantum-inspired Algorithm for Combinatorial Optimization
Arxiv
4+阅读 · 2020年2月14日
Optimization for deep learning: theory and algorithms
Optimization for deep learning: theory and algorithms
Arxiv
104+阅读 · 2019年12月19日
Self-Supervised Learning For Few-Shot Image Classification
Self-Supervised Learning For Few-Shot Image Classification
Arxiv
19+阅读 · 2019年11月14日
Learning to Learn and Predict: A Meta-Learning Approach for Multi-Label Classification
Learning to Learn and Predict: A Meta-Learning Approach for Multi-Label Classification
Arxiv
17+阅读 · 2019年9月9日
Hierarchical Meta Learning
Arxiv
9+阅读 · 2019年4月19日
Meta-Transfer Learning for Few-Shot Learning
Meta-Transfer Learning for Few-Shot Learning
Arxiv
8+阅读 · 2018年12月6日
A Framework of Transfer Learning in Object Detection for Embedded Systems
Arxiv
3+阅读 · 2018年11月12日
Transfer Learning with Neural AutoML
Arxiv
5+阅读 · 2018年9月11日
Learning Blind Video Temporal Consistency
Learning Blind Video Temporal Consistency
Arxiv
3+阅读 · 2018年8月1日
The Matrix Calculus You Need For Deep Learning
The Matrix Calculus You Need For Deep Learning
Arxiv
12+阅读 · 2018年7月2日
微信扫码咨询专知VIP会员
Top