双任务对话语言理解旨在通过利用它们之间的内在联系,同时解决两个相关的对话语言理解任务。在本文中,我们提出了一个新的框架,其核心是关系时态图推理。我们提出一个以说话者为中心的时态图(SATG)和一个双任务关系时态图(DRTG)来促进对话理解中的关系时态建模和双任务推理。此外,不同于以前的工作只实现隐含的语义级交互,我们建议通过整合预测级交互来模拟显式依赖关系。为了实现我们的框架,我们首先提出了一个新颖的模型,双任务时态关系递归推理网络(DARER),它首先通过SATG的关系时态建模生成上下文、说话者和时态敏感的话语表示,然后在DRTG上进行递归的双任务关系时态图推理,其中估计的标签分布作为预测级交互的关键线索。DARER中的关系时态建模是通过关系卷积网络(RGCNs)实现的。然后,我们进一步提出关系时态变换器(ReTeFormer),它通过关系和结构感知的解耦多头注意力实现了细粒度的关系时态建模。因此,我们提出了带有ReTeFormer的DARER(DARER2),它采用两种ReTeFormer的变体分别实现SATG和DTRG的关系时态建模。在不同场景的广泛实验中验证了我们的模型以很大的优势超越了最先进的模型。

成为VIP会员查看完整内容
21

相关内容

IEEE模式分析和机器智能期刊TPAMI(IEEE Trans on Pattern Analysis and Machine Intelligence)出版了有关计算机视觉和图像理解的所有传统领域,模式分析和识别的所有传统领域以及机器智能的选定领域的文章,其中特别强调了用于模式分析的机器学习。还涵盖了诸如可视搜索,文档和手写分析,医学图像分析,视频和图像序列分析,基于内容的图像和视频检索,面部和手势识别以及相关的专用硬件和/或软件体系结构等技术领域。 官网地址:http://dblp.uni-trier.de/db/journals/pami/
【ICML2022】基于自适应上下文池化的高效表示学习
专知会员服务
19+阅读 · 2022年7月9日
【ICML2022】知识图谱上逻辑查询的神经符号模型
专知会员服务
27+阅读 · 2022年5月25日
【ICLR2022】GNN-LM基于全局信息的图神经网络语义理解模型
【NeurIPS2021】序一致因果图的多任务学习
专知会员服务
19+阅读 · 2021年11月7日
专知会员服务
14+阅读 · 2021年10月16日
专知会员服务
21+阅读 · 2021年10月8日
专知会员服务
36+阅读 · 2021年6月3日
【WSDM2021】基于演化状态图的时间序列事件预测
专知会员服务
52+阅读 · 2020年12月1日
【NeurIPS2020】可处理的反事实推理的深度结构因果模型
专知会员服务
47+阅读 · 2020年9月28日
【ACMMM2020】零样本语义分割的上下文感知特征生成
专知会员服务
15+阅读 · 2020年8月21日
【AAAI2023】基于序图的因果结构强化学习
专知
4+阅读 · 2022年11月25日
【ICML2022】熵因果推理:图的可辨识性
专知
1+阅读 · 2022年8月6日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
A Survey of Large Language Models
Arxiv
398+阅读 · 2023年3月31日
Arxiv
66+阅读 · 2023年3月26日
VIP会员
相关VIP内容
【ICML2022】基于自适应上下文池化的高效表示学习
专知会员服务
19+阅读 · 2022年7月9日
【ICML2022】知识图谱上逻辑查询的神经符号模型
专知会员服务
27+阅读 · 2022年5月25日
【ICLR2022】GNN-LM基于全局信息的图神经网络语义理解模型
【NeurIPS2021】序一致因果图的多任务学习
专知会员服务
19+阅读 · 2021年11月7日
专知会员服务
14+阅读 · 2021年10月16日
专知会员服务
21+阅读 · 2021年10月8日
专知会员服务
36+阅读 · 2021年6月3日
【WSDM2021】基于演化状态图的时间序列事件预测
专知会员服务
52+阅读 · 2020年12月1日
【NeurIPS2020】可处理的反事实推理的深度结构因果模型
专知会员服务
47+阅读 · 2020年9月28日
【ACMMM2020】零样本语义分割的上下文感知特征生成
专知会员服务
15+阅读 · 2020年8月21日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员