理解人类层次的知识是推进人工智能的基础,特别是通过融入常识知识,这包括关于事件、信念和欲望的基本事实。本论文探讨了常识知识在不同层次上的表示与应用——词汇、短语和句子,利用结构化知识图谱和生成性语言模型。我们研究了知识图谱从词汇资源(如WordNet)到常识知识图谱(如ConceptNet和ATOMIC)的演变。 关键贡献包括使用Z加权策略解决词汇层次语义表示中的训练偏差,开发通用语义表示以缓解多语言环境中的数据稀缺问题,并提出了一种多替代对比学习框架(MICO)以有效进行短语级表示。此外,我们通过一种新的“基础化-剪枝-推理”管道,研究了知识图谱和语言模型两种知识源的高效知识推理,从而提高了推理任务的效率。 最终,本研究不仅推进了常识知识的理解及其在各种下游任务中的应用,包括词义消歧、知识检索和问答系统,还为探索具身AI的应用开辟了新的途径。具身AI能够利用这些丰富的知识,在现实世界环境中实现更直观和智能的互动。

成为VIP会员查看完整内容
17

相关内容

博士论文是由攻读博士学位的研究生所撰写的学术论文。它要求作者在博士生导师的指导下,选择自己能够把握和驾驭的潜在的研究方向,开辟新的研究领域。由此可见,这就对作者提出了较高要求,它要求作者必须在本学科的专业领域具备大量的理论知识,并对所学专业的理论知识有相当深入的理解和思考,同时还要具有相当水平的独立科学研究能力,能够为在学科领域提出独创性的见解和有价值的科研成果。因而,较之学士论文、硕士论文,博士论文具有更高的学术价值,对学科的发展具有重要的推动作用。
【ETHZ博士论文】金融网络与图学习的其他探索
专知会员服务
18+阅读 · 1月22日
【CMU博士论文】算法和架构的学习
专知会员服务
33+阅读 · 2024年9月27日
【CMU博士论文】语言理解与生成优化技术,145页pdf
专知会员服务
36+阅读 · 2023年11月22日
【MIT博士论文】垂直领域生成式模型,107页pdf
专知会员服务
67+阅读 · 2023年11月13日
【MIT博士论文】多模态:模型、算法与应用,196页pdf
专知会员服务
114+阅读 · 2023年8月17日
【MIT博士论文】从结构化文档到结构化知识, 150页pdf
专知会员服务
50+阅读 · 2023年8月10日
【MIT博士论文】多模态模型学习语言,138页pdf
专知会员服务
58+阅读 · 2022年12月23日
【MIT博士论文】优化理论与机器学习实践
专知会员服务
94+阅读 · 2022年6月30日
深度多模态表示学习综述论文,22页pdf
专知
31+阅读 · 2020年6月21日
图数据表示学习综述论文
专知
52+阅读 · 2019年6月10日
PointNet系列论文解读
人工智能前沿讲习班
17+阅读 · 2019年5月3日
国家自然科学基金
27+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
431+阅读 · 2023年3月31日
Arxiv
72+阅读 · 2023年3月26日
Arxiv
157+阅读 · 2023年3月24日
Arxiv
22+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【ETHZ博士论文】金融网络与图学习的其他探索
专知会员服务
18+阅读 · 1月22日
【CMU博士论文】算法和架构的学习
专知会员服务
33+阅读 · 2024年9月27日
【CMU博士论文】语言理解与生成优化技术,145页pdf
专知会员服务
36+阅读 · 2023年11月22日
【MIT博士论文】垂直领域生成式模型,107页pdf
专知会员服务
67+阅读 · 2023年11月13日
【MIT博士论文】多模态:模型、算法与应用,196页pdf
专知会员服务
114+阅读 · 2023年8月17日
【MIT博士论文】从结构化文档到结构化知识, 150页pdf
专知会员服务
50+阅读 · 2023年8月10日
【MIT博士论文】多模态模型学习语言,138页pdf
专知会员服务
58+阅读 · 2022年12月23日
【MIT博士论文】优化理论与机器学习实践
专知会员服务
94+阅读 · 2022年6月30日
相关基金
国家自然科学基金
27+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员