机器学习和数据挖掘中的许多重要问题,如知识库推理、个性化实体推荐、科学假设生成等,都可以归结为图数据结构上的学习和推理。这些问题代表了推进图学习的令人兴奋的机会,但也带来了重大挑战。由于图通常是稀疏的,并且由模式定义,因此它们通常不能完全捕获数据中潜在的复杂关系。将图与丰富的辅助文本模态相结合的模型具有更高的表达潜力,但联合处理这些不同的模态——即稀疏的结构化关系和密集的非结构化文本——并不是直接的。

本文考虑了通过结合结构和文本来改进图学习的重要问题。论文的第一部分考虑了关系知识表示和推理任务,展示了预训练上下文语言模型在为图结构知识库增加新的深度和丰富度方面的巨大潜力。论文的第二部分超越了知识库,通过对文档交互和内容进行联合建模,改进信息检索和推荐系统中出现的图学习任务。所提出的方法在单模态和跨模态基线上不断提高准确性,这表明,通过适当选择的归纳偏差和仔细的模型设计,可以充分利用结构和文本的独特互补方面。

https://deepblue.lib.umich.edu/handle/2027.42/174515

成为VIP会员查看完整内容
26

相关内容

图机器学习(Machine Learning on Graphs)是一项重要且普遍存在的任务,其应用范围从药物设计到社交网络中的友情推荐。这个领域的主要挑战是找到一种表示或编码图结构的方法,以便机器学习模型能够轻松地利用它。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【悉尼大学博士论文】深度3D信息预测与理解,184页pdf
专知会员服务
40+阅读 · 2022年12月27日
专知会员服务
62+阅读 · 2021年2月4日
论文荐读:理解图表示学习中的负采样
学术头条
28+阅读 · 2020年5月29日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年3月2日
Arxiv
92+阅读 · 2020年2月28日
Arxiv
12+阅读 · 2018年9月15日
VIP会员
相关基金
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员