文本匹配是一项研究两段文本之间的相关关系的任务,在如搜索引擎、文档挖掘、智能对话等场景有着广泛应用和重要意义。

在文本匹配任务中,目标文本和候选文本之间的联系以及文本内部的上下文关联都是实现准确匹配的关键。然而,大多数已有的深度神经网络模型只关注了前者,忽略了每个文本内部的上下文语义信息,从而面临着长文本、复杂文本难匹配等问题。

解决方案 为了解决上述问题,中科院自动化所智能感知与计算研究中心团队提出一种基于文本图神经网络架构的匹配方法,用图(graph)结构表示文本,能够同时建模两个文本之间的交互以及每个文本内部的上下文关联,可以有效缓解现有方法中长文本难匹配的问题,如图1所示。

对于构建的文本图,该方法采用“聚合(aggregation)”、“更新(update)”以及“读出(readout)”三个步骤进行建模学习,如图2所示。其中,“聚合”步骤将上下文信息进行汇总,“更新”步骤将汇总的信息进行筛选和合并,最后“读出”步骤将整图信息输出为相似度得分。

基于图神经网络的文本匹配框架示例

该方法在常见的文本匹配数据集上进行了实验,取得了与当前主流预训练模型(BERT)相当的结果,并且在长文本数据集上对基线的提升更显著,验证了模型的有效性。

成为VIP会员查看完整内容
47

相关内容

图神经网络 (GNN) 是一种连接模型,它通过图的节点之间的消息传递来捕捉图的依赖关系。与标准神经网络不同的是,图神经网络保留了一种状态,可以表示来自其邻域的具有任意深度的信息。近年来,图神经网络(GNN)在社交网络、知识图、推荐系统、问答系统甚至生命科学等各个领域得到了越来越广泛的应用。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
64+阅读 · 2021年2月21日
专知会员服务
17+阅读 · 2021年2月8日
AAAI2021 | 学习预训练图神经网络
专知会员服务
114+阅读 · 2021年1月28日
专知会员服务
40+阅读 · 2021年1月9日
【AAAI2021】层次推理图神经网络
专知会员服务
68+阅读 · 2020年12月27日
专知会员服务
103+阅读 · 2020年12月22日
【AAAI2021】 层次图胶囊网络
专知会员服务
80+阅读 · 2020年12月18日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
【ACL2020】基于图神经网络的文本分类新方法
专知会员服务
68+阅读 · 2020年7月12日
【KDD2020】图神经网络生成式预训练
专知
20+阅读 · 2020年7月3日
赛尔笔记 | 一文读懂图神经网络
哈工大SCIR
81+阅读 · 2019年7月12日
图神经网络综述:方法及应用 | Deep Reading
AI100
35+阅读 · 2019年3月17日
论文浅尝 | 图神经网络综述:方法及应用
开放知识图谱
113+阅读 · 2019年2月14日
图神经网络综述:模型与应用
PaperWeekly
195+阅读 · 2018年12月26日
VIP会员
相关VIP内容
专知会员服务
64+阅读 · 2021年2月21日
专知会员服务
17+阅读 · 2021年2月8日
AAAI2021 | 学习预训练图神经网络
专知会员服务
114+阅读 · 2021年1月28日
专知会员服务
40+阅读 · 2021年1月9日
【AAAI2021】层次推理图神经网络
专知会员服务
68+阅读 · 2020年12月27日
专知会员服务
103+阅读 · 2020年12月22日
【AAAI2021】 层次图胶囊网络
专知会员服务
80+阅读 · 2020年12月18日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
【ACL2020】基于图神经网络的文本分类新方法
专知会员服务
68+阅读 · 2020年7月12日
相关资讯
【KDD2020】图神经网络生成式预训练
专知
20+阅读 · 2020年7月3日
赛尔笔记 | 一文读懂图神经网络
哈工大SCIR
81+阅读 · 2019年7月12日
图神经网络综述:方法及应用 | Deep Reading
AI100
35+阅读 · 2019年3月17日
论文浅尝 | 图神经网络综述:方法及应用
开放知识图谱
113+阅读 · 2019年2月14日
图神经网络综述:模型与应用
PaperWeekly
195+阅读 · 2018年12月26日
微信扫码咨询专知VIP会员