【导读】近日,Novartis的数据科学家 Eric J. Ma 进行了一次关于贝叶斯深度学习理论和实现的演讲,演讲题目是《An Attempt At Demystifying Bayesian Deep Learning》,在这次演讲中,目的是要做两件事情:揭秘深度学习的本质(实质上是用梯度下降进行带权值的矩阵乘法),并揭秘贝叶斯深度学习(将先验信息加在权值上)。 然后,作者通过PyMC3和Theano代码来说明如何构建贝叶斯深度网络,并将结果中的不确定性进行可视化,这个PPT和视频内容是学习贝叶斯深度学习非常好的资料,建议大家收藏。
▌内容目录
简要介绍深度学习:
是一种使用矩阵运算的模型;
并行:线性回归/非线性回归/前馈神经网络结构(Feed Forward NN Architecture)
我们估计哪些参数
权值
过滤器值(卷积)
用梯度下降进行估计
我们缺少什么?不确定性措施:
最重要的原因是:我们能否判断我们的模型对预测是否有信心?
贝叶斯深度学习的本质:
估计参数的概率分布,而不是原来的点估计
最常见的先验:权值矩阵上的单位高斯
代码示例:
用前馈神经网络进行二分类
前馈神经网络的非线性回归
参考文献:
“twiecki”的博客
Yarin Gal thesis + papers
▌演讲视频
https://v.qq.com/x/page/q05242qwejm.html
参考链接:
https://pydata.org/nyc2017/schedule/presentation/39/
https://ericmjl.github.io/
▌PPT详细内容
请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),
后台回复“DBDL” 就可以获取An Attempt At Demystifying Bayesian Deep Learning PPT下载~
-END-
专 · 知
人工智能领域主题知识资料查看获取:【专知荟萃】人工智能领域26个主题知识资料全集(入门/进阶/论文/综述/视频/专家等)
同时欢迎各位用户进行专知投稿,详情请点击:
【诚邀】专知诚挚邀请各位专业者加入AI创作者计划!了解使用专知!
请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料!
请扫一扫如下二维码关注我们的公众号,获取人工智能的专业知识!
请加专知小助手微信(Rancho_Fang),加入专知主题人工智能群交流!
点击“阅读原文”,使用专知!