【导读】每年,CIFAR深度学习+强化学习(DLRL)暑期学校都会聚集研究生、博士后和专业人士,涵盖深度学习和强化学习的基础研究、新进展和现实应用。2021年DLRL暑期学校将于2021年7月26日至31日举行。这所学校由CIFAR主办,与我们的三个国家人工智能研究所合作:埃德蒙顿的Amii、蒙特利尔的Mila和多伦多的Vector研究所。

来自Google研究院Balaji Lakshminarayanan讲述了《深度学习不确定》的报告,值得关注!

对深度学习中的不确定性进行量化是一个具有挑战性且尚未解决的问题。预测的不确定性估计对于知道何时信任模型的预测是很重要的,特别是在实际应用中,在实际应用中,训练和测试分布可能是非常不同的。报告的第一部分将集中于检测分布外输入(OOD)。深度生成模型被认为对OOD输入更鲁棒,但我将给出反例,其中生成模型可以为OOD输入分配比训练数据更高的可能性。具体来说,我们发现,在一个数据集(如CIFAR-10)上训练的深度生成模型的模型密度赋予来自另一个数据集(如SVHN)的OOD输入更高的可能性。我将讨论一些最近的后续工作,其中我们将进一步详细研究这些失效模式,并提出解决方案。演讲的第二部分将集中讨论判别模型的预测不确定性估计。我将讨论我们在数据集漂移下校准的大规模基准研究的结果,并介绍我们在推进漂移校准的最先进一些工作。

Balaji Lakshminarayanan目前是谷歌Brain的研究人员。他最近的研究集中在概率深度学习,特别是不确定性估计,非分布鲁棒性和深度生成模型。

http://www.gatsby.ucl.ac.uk/~balaji/

成为VIP会员查看完整内容
79

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
可靠深度异常检测,34页ppt,Google Balaji Lakshminarayanan讲解
专知会员服务
57+阅读 · 2021年4月7日
【NeurIPS 2020】近似推断进展,272页ppt
专知会员服务
32+阅读 · 2020年12月11日
【Google】梯度下降,48页ppt
专知会员服务
80+阅读 · 2020年12月5日
Google最新《机器学习对偶性》报告,48页ppt
专知会员服务
35+阅读 · 2020年11月29日
【课程】伯克利2019全栈深度学习课程(附下载)
专知会员服务
56+阅读 · 2019年10月29日
「PPT」深度学习中的不确定性估计
专知
27+阅读 · 2019年7月20日
115页Slides带你领略深度生成模型全貌(附PPT)
数据派THU
12+阅读 · 2018年7月31日
Arxiv
6+阅读 · 2021年7月26日
Scale-Aware Trident Networks for Object Detection
Arxiv
4+阅读 · 2019年1月7日
Arxiv
5+阅读 · 2018年10月4日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
7+阅读 · 2018年5月23日
VIP会员
相关VIP内容
可靠深度异常检测,34页ppt,Google Balaji Lakshminarayanan讲解
专知会员服务
57+阅读 · 2021年4月7日
【NeurIPS 2020】近似推断进展,272页ppt
专知会员服务
32+阅读 · 2020年12月11日
【Google】梯度下降,48页ppt
专知会员服务
80+阅读 · 2020年12月5日
Google最新《机器学习对偶性》报告,48页ppt
专知会员服务
35+阅读 · 2020年11月29日
【课程】伯克利2019全栈深度学习课程(附下载)
专知会员服务
56+阅读 · 2019年10月29日
相关论文
微信扫码咨询专知VIP会员