【CMU博士论文】多视图上下文理解的知识增强表示学习,179页pdf

2022 年 8 月 11 日 专知


计算上下文理解指的是agent融合不同信息源进行决策的能力,因此,通常被认为是人工智能(AI)等复杂机器推理能力的先决条件。数据驱动和知识驱动方法是追求这种机器意义生成能力的两种经典技术。然而,虽然数据驱动的方法试图通过在现实世界中的观察来模拟事件的统计规律,但它们仍然难以解释,而且缺乏自然地结合外部知识的机制。相反,知识驱动的方法结合了结构化的知识库,使基于公理原则的符号推理成为可能,并产生更多可解释的预测; 然而,它们往往缺乏估计推断的统计显著性或鲁棒地适应输入中的扰动的能力。为了解决这些问题,我们使用混合AI方法作为综合两种方法的优势的一般框架。具体而言,我们继承了神经符号的概念,将其作为一种使用领域知识来指导深度神经网络学习进程的方法。领域知识以多种形式出现,包括:(i) 图模型,它描述了实体之间的关系,如依赖、独立、因果、相关和部分相关; (ii) 常识性知识,包括空间知识、物体的物理属性、语义关系和功能知识; 专家智能体以演示或软标签的形式提供特权信息; (iv) 习得的行为原语和先验,这些行为原语和先验可能构成可推广和可转移的任务执行;以及(v)辅助任务、目标和约束条件——为约束优化精心选择。

无论可用的领域知识类型是什么,相同的实际目标仍然是: 学习有意义的神经表征,用于下游感兴趣的任务 。神经表征学习的潜在目标是在统计上识别agent输入数据或观察中变化的最佳解释因素,通常需要对输入中多种模式或观点之间的互补性的直觉。虽然已经有很多关注于学习特定任务的有效神经表征,然后将学习到的表征转移或适应其他任务,相对较少的重点放在有各种类型的领域知识的表征学习。这些知识可用于恢复潜在生成过程的信息,设计学习问题的有效建模策略,确保模型的可转移性或泛化性,或理解视图之间的互补性。本文研究了将上述类型的领域知识与神经表示相结合的方法,以提高以下问题领域的模型性能和通用性:神经常识推理、多模态机器人导航和自动驾驶。本文提供了一系列工具、方法、任务、国际AI挑战和排行榜、数据集和知识图;此外,这项工作还成功组织了两场关于自动驾驶安全学习的国际研讨会。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“KRMU” 就可以获取【CMU博士论文】多视图上下文理解的知识增强表示学习》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料
登录查看更多
5

相关内容

【斯坦福博士论文】具有学习约束的深度表示,239页pdf
专知会员服务
60+阅读 · 2022年9月13日
【CMU博士论文】神经序列建模与应用,102页pdf
专知会员服务
53+阅读 · 2022年8月23日
【CMU博士论文】多视图上下文理解的知识增强表示学习
专知会员服务
33+阅读 · 2022年8月11日
【CMU博士论文】多媒体内容解纠缠表示,100页pdf
专知会员服务
20+阅读 · 2022年8月8日
【博士论文】多任务学习视觉场景理解,140页pdf
专知会员服务
87+阅读 · 2022年4月5日
专知会员服务
84+阅读 · 2021年9月4日
【CMU博士论文】机器人深度强化学习,128页pdf
专知会员服务
123+阅读 · 2020年8月27日
【ETH博士论文】贝叶斯深度学习,241页pdf
专知
8+阅读 · 2022年1月16日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
4+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年11月20日
Arxiv
14+阅读 · 2022年10月15日
Arxiv
15+阅读 · 2019年9月30日
Arxiv
23+阅读 · 2017年3月9日
VIP会员
相关VIP内容
【斯坦福博士论文】具有学习约束的深度表示,239页pdf
专知会员服务
60+阅读 · 2022年9月13日
【CMU博士论文】神经序列建模与应用,102页pdf
专知会员服务
53+阅读 · 2022年8月23日
【CMU博士论文】多视图上下文理解的知识增强表示学习
专知会员服务
33+阅读 · 2022年8月11日
【CMU博士论文】多媒体内容解纠缠表示,100页pdf
专知会员服务
20+阅读 · 2022年8月8日
【博士论文】多任务学习视觉场景理解,140页pdf
专知会员服务
87+阅读 · 2022年4月5日
专知会员服务
84+阅读 · 2021年9月4日
【CMU博士论文】机器人深度强化学习,128页pdf
专知会员服务
123+阅读 · 2020年8月27日
相关基金
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
4+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
相关论文
Arxiv
0+阅读 · 2022年11月20日
Arxiv
14+阅读 · 2022年10月15日
Arxiv
15+阅读 · 2019年9月30日
Arxiv
23+阅读 · 2017年3月9日
Top
微信扫码咨询专知VIP会员