KDD20 | 主题模型在图模型中的应用专题

主题模型是一种以无监督方式对文本内容的隐含语义结构进行聚类，发现文档中抽象主题的统计模型，主要被运用于NLP领域中的各种任务。简单总结主题模型的目的，就是从一堆文档中学习两种矩阵：一是document-topic矩阵，即document在主题上的分布，二是topic-word矩阵，即topic在词表上的分布。基于主题模型的思想和功能，已有很多工作将其运用或迁移到其他领域，来提高模型方法的效果。本文将介绍在KDD 2020上发表的两篇在图模型中利用主题模型的工作。

第一个工作是《Graph Structural-topic Neural Network》，主要是将主题模型的统计思想引入到GCNs中，解决GCNs不能很好地建模局部高阶结构的问题。

第二个工作是《Graph Attention Networks over Edge Content-Based Channels》，该工作关注了图中边上的非结构文本信息，利用主题模型发现边的文本信息隐含的丰富语义，从而更好地推理和节点之间的交互。