人类的视觉系统证明,用极少的样本就可以学习新的类别;人类不需要一百万个样本就能学会区分野外的有毒蘑菇和可食用蘑菇。可以说,这种能力来自于看到了数百万个其他类别,并将学习到的表现形式转化为新的类别。本报告将正式介绍机器学习与热力学之间的联系,以描述迁移学习中学习表征的质量。我们将讨论诸如速率、畸变和分类损失等信息理论泛函如何位于一个凸的,所谓的平衡曲面上。我们规定了在约束条件下穿越该表面的动态过程,例如,一个调制速率和失真以保持分类损失不变的等分类过程。我们将演示这些过程如何完全控制从源数据集到目标数据集的传输,并保证最终模型的性能。

成为VIP会员查看完整内容
170

相关内容

【ACL2020】多模态信息抽取,365页ppt
专知会员服务
108+阅读 · 2020年7月6日
【硬核课】统计学习理论,321页ppt
专知会员服务
114+阅读 · 2020年6月30日
最新《生成式对抗网络》简介,25页ppt
专知会员服务
130+阅读 · 2020年6月28日
【CMU】深度学习模型中集成优化、约束和控制,33页ppt
专知会员服务
35+阅读 · 2020年5月23日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
165+阅读 · 2020年4月26日
自然语言处理(NLP)前沿进展报告(PPT下载)
利用Matlab实现深度学习【附45页PPT】
专知
7+阅读 · 2018年8月18日
一文读懂神经网络(附PPT、视频)
数据派THU
12+阅读 · 2018年3月25日
A Survey on Bayesian Deep Learning
Arxiv
51+阅读 · 2020年7月2日
Arxiv
4+阅读 · 2018年10月4日
Physical Primitive Decomposition
Arxiv
3+阅读 · 2018年9月13日
Arxiv
27+阅读 · 2018年4月12日
Arxiv
4+阅读 · 2018年1月19日
Arxiv
4+阅读 · 2016年1月15日
VIP会员
相关VIP内容
【ACL2020】多模态信息抽取,365页ppt
专知会员服务
108+阅读 · 2020年7月6日
【硬核课】统计学习理论,321页ppt
专知会员服务
114+阅读 · 2020年6月30日
最新《生成式对抗网络》简介,25页ppt
专知会员服务
130+阅读 · 2020年6月28日
【CMU】深度学习模型中集成优化、约束和控制,33页ppt
专知会员服务
35+阅读 · 2020年5月23日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
165+阅读 · 2020年4月26日
相关论文
微信扫码咨询专知VIP会员