【斯坦福博士论文】生成模型中深度概率推理的扩展与应用,262页pdf

2022 年 11 月 30 日 专知

尽管数据规模在增长,但我们希望将学习算法的许多应用都受到数据数量和质量的限制。生成模型提出了一个框架,可以自然地将先验信念与现实世界的数据结合起来。生成式方法的核心是概率推理的挑战,或估计给定观测的潜变量。这一挑战催生了涵盖多种统计技术的丰富研究领域。最近,深度学习方法被用来解决推理查询,被恰当地命名为深度推理。在我的论文中,我将探索深度推理的扩展,以应对现实世界的稀疏性和效率的挑战。我将介绍实际应用的案例研究,其中深度推理在以前的工作上取得了相当大的改进。

本文主要围绕三个部分展开。我们介绍了生成模型和深度推理的背景,重点是现代变分方法。第一部分将提出新的泛化推理算法,以对不同的稀疏性概念(如多模态数据、缺失数据或计算约束)具有鲁棒性。其次,我们研究了元平摊推理,或“推断如何推断”。一种双平摊推理算法将能够廉价地解决一个新的生成模型的推理查询。我们将展示一种新的算法来重新利用掩码语言建模来实现这一点。

第三,我们提出了深度推理在教育中的两个现实应用:(a)在项目反应理论和相关心理测量模型下估计学生的能力,(b)为学生学习解决编程问题推理教育反馈。总之,这些贡献展示了深度推理在教育中的丰富性和实用性,以及在现实世界中更广泛的应用。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“G262” 就可以获取【斯坦福博士论文】生成模型中深度概率推理的扩展与应用,262页pdf》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料

登录查看更多
8

相关内容

【港科大博士论文】生成模型的统计和结构特性,338页pdf
专知会员服务
45+阅读 · 2022年12月20日
专知会员服务
34+阅读 · 2021年7月19日
专知会员服务
50+阅读 · 2021年7月10日
【经典书】贝叶斯强化学习概述,147页pdf
专知
4+阅读 · 2021年11月21日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年2月1日
Arxiv
0+阅读 · 2023年1月31日
Arxiv
102+阅读 · 2021年6月8日
Arxiv
23+阅读 · 2020年9月16日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Arxiv
0+阅读 · 2023年2月1日
Arxiv
0+阅读 · 2023年1月31日
Arxiv
102+阅读 · 2021年6月8日
Arxiv
23+阅读 · 2020年9月16日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Top
微信扫码咨询专知VIP会员