计算所网络数据实验室3篇论文被WSDM2020录用

  

近日，中科院网络数据科学与技术重点实验室3篇论文被国际顶级会议WSDM 2020录用为长文。WSDM 2020全称为第13届国际互联网搜索与数据挖掘会议（The 13thInternational Conference on Web Search and Data Mining, WSDM 2020），将于2020年2月3日-2月7日在美国休斯敦召开。WSDM是CCF推荐的B类国际学术会议，由SIGIR、SIGKDD、SIGMOD和SIGWEB四个专委会协调筹办，在互联网搜索、数据挖掘领域享有较高学术声誉。这次会议共收到来自615篇长文投稿，仅有91篇长文被录用，录用率约15%。

录用的三篇论文为：

• 博士生曹婍（指导老师：沈华伟）为第一作者的论文“Coupled Graph Neural Networks for Predicting the Popularity of Online Content”（作者：曹婍，沈华伟，高金华，魏秉政，程学旗）。

  内容简介：如何准确预测在线媒体平台上的用户消息在未来的流行度（热度），是一项非常重要但也充满挑战的任务。现有的方法通常利用早期参与者的统计学、时序或结构模式来进行消息在未来的流行度预测。但是，这些方法几乎都无法有效地刻画信息传播中的级联效应，即早期参与者将会沿着网络结构逐级激活更多的参与用户。而这也正是传播预测的难点和关键所在。在本工作中，我们创新地提出了耦合图神经网络模型（Coupled-GNNs）来显示地刻画信息传播中的级联效应。具体地，Coupled-GNNs模型使用两个耦合的图神经网络分别来刻画信息级联传播效应中的两个关键因素，即节点激活状态和影响力传播之间的相互作用。堆叠多层图神经网络后，我们的方法可以通过迭代的方式自然且有效地刻画信息沿着网络传播的级联效应，从而更准确地预测信息在未来的流行度。

  图：Couple-GNN模型框架

• 博士生苏立新（教师: 郭嘉丰）为第一作者的论文“Label Distribution Augmented Maximum Likelihood Estimation for Reading Comprehension”（作者：苏立新，郭嘉丰，范意兴，兰艳艳，程学旗）。

  内容简介：阅读理解要求从给定文本中定位出问题的答案。现在的深度阅读理解模型取得很好的效果，他们都依赖于最大似然优化，也就是在训练过程中仅仅最大化正确答案片段，对于其他片段同等惩罚，这影响到模型的学习和泛化。一些工作引入强化学习方法直接优化评价指标，但是其学习效率不如最大似然估计且提升有限。本文提出一种新的学习方法LD-MLE优化方法。我们从真实答案标签构建标签的分布，该分布的构建依赖于评价指标。我们进一步可以利用最大似然框架朝着标签分布进行优化。我们的方法简单有效地提升阅读理解模型的效果。

  图：LD-MLE优化目标推导过程

• 博士生仇韫琦（导师：王元卓）为第一作者的论文“Stepwise Reasoning for Multi-Relation Question Answering over Knowledge Graph with Weak Supervision”（作者：仇韫琦，王元卓，靳小龙，张琨）。

  内容简介：基于知识图谱的问答通过知识图谱中的事实信息回答用户的自然语言问句。当前基于向量的方法将以主题实体为中心的知识图谱子图内的所有结点视为候选答案，将自然语言问句和候选答案都转变为低维稠密向量，计算其语义相似度。当问题变复杂时，搜索空间呈指数级增长。同时，自然语言问句的每一部分对多跳推理中每一跳的影响都各不相同，决策顺序对回答正确与否有很大影响。并且，基于多跳推理的方法都面临着弱监督带来的挑战，只有最终答案作为标签信息，无法得知每一跳推理的标准答案。基于以上挑战，本文提出一种弱监督下针对多关系问题的迭代推理方法，将多关系问答建模成马尔科夫决策过程，利用束搜索在每一跳推理时选取前若干个候选答案，缩减搜索空间；利用注意力机制判断候选决策与问句中哪一部分语义上最接近，同时利用循环神经网络建模搜索历史，增强模型对决策顺序的把握；利用强化学习让模型可以被端到端的训练，同时利用基于势函数的奖励塑形机制，为每一步推理提供额外的奖励，加快收敛过程。在3个基准数据集中，本方法在面对多关系问题时均取得了最佳效果。

  图：迭代推理网络示意图