人工智能的一个基本任务是学习。深度神经网络已经被证明可以完美地处理所有的学习范式,即有监督学习、无监督学习和强化学习。然而,传统的深度学习方法利用云计算设施,不能很好地扩展到计算资源低的自治代理。即使在云计算中,它们也受到计算和内存的限制,不能用来为假设有数十亿神经元的网络的代理建立适当的大型物理世界模型。这些问题在过去几年中通过可扩展深度学习的新兴主题得到了解决,该主题在训练之前和整个过程中利用了神经网络中的静态和自适应稀疏连接。本教程将分两部分介绍这些研究方向,重点是理论进展、实际应用和实践经验。

https://sites.google.com/view/ijcai2020-sparse-training/home

成为VIP会员查看完整内容
26

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【AAAI2021】以事件为中心的自然语言理解,256页ppt
专知会员服务
72+阅读 · 2021年2月8日
「元学习」最新AAAI2021-Tutorial,附视频与240页ppt
专知会员服务
115+阅读 · 2021年2月7日
LinkedIn《贝叶斯优化推荐系统》,IJCAI报告,142页ppt
专知会员服务
51+阅读 · 2021年1月11日
最新《深度卷积神经网络理论》报告,35页ppt
专知会员服务
45+阅读 · 2020年11月30日
【ECAI2020】可扩展深度学习: 理论与算法,120页ppt
专知会员服务
27+阅读 · 2020年9月25日
【ICML2020Tutorial】机器学习信号处理,100页ppt
专知会员服务
111+阅读 · 2020年8月15日
【ICML2020】基于模型的强化学习方法教程,279页ppt
专知会员服务
125+阅读 · 2020年7月20日
【图机器学习】2020年,图机器学习将走向何方?
产业智能官
3+阅读 · 2020年3月2日
2020年,图机器学习将走向何方?
机器之心
5+阅读 · 2020年2月16日
Arxiv
0+阅读 · 2021年3月7日
Arxiv
0+阅读 · 2021年3月4日
Arxiv
29+阅读 · 2020年3月16日
Hardness-Aware Deep Metric Learning
Arxiv
6+阅读 · 2019年3月13日
Arxiv
3+阅读 · 2018年8月27日
Meta-Learning with Latent Embedding Optimization
Arxiv
6+阅读 · 2018年7月16日
Arxiv
10+阅读 · 2017年11月22日
VIP会员
相关VIP内容
相关论文
Arxiv
0+阅读 · 2021年3月7日
Arxiv
0+阅读 · 2021年3月4日
Arxiv
29+阅读 · 2020年3月16日
Hardness-Aware Deep Metric Learning
Arxiv
6+阅读 · 2019年3月13日
Arxiv
3+阅读 · 2018年8月27日
Meta-Learning with Latent Embedding Optimization
Arxiv
6+阅读 · 2018年7月16日
Arxiv
10+阅读 · 2017年11月22日
微信扫码咨询专知VIP会员