题目:

图神经网络与认知推理

摘要:

图神经网络将深度学习方法延伸到非欧几里得的图数据上,大大提高了图数据应用的精度。我将首先从算法角度分析当下经典的图表示学习算法(DeepWalk、LINE、node2vec等)的本质关系,并提出统一算法框架NetMF和大规模版本NetSMF,并在稀疏图理论的基础上提出高效快速学习算法ProNE,ProNE在精度不降低的情况下比传统学习算法快10-400倍的加速比。接着,我会简单回顾一下图卷积网络(GCN)并探讨如何提高GCN在图数据上的表示学习能力。我们研究发现几个巧妙、简单方法就可以有效的提高GCN的表示能力,该方法可以等价表示为图注意力网络(GAT)。该方法在包括阿里巴巴等多个超大规模数据集上得到应用验证。最后我将探讨在图神经网络基础上的认知推理模型CognitiveGraph (CogGraph)。CogGraph基于认知科学中的双通道认知理论,其中通道1负责直觉认知,通道二负责推理认知。CogGraph可以广泛应用于多个图数据上的任务,包括基于推理的问答、知识图谱补齐等。

个人简介:

张鹏,北京智谱华章科技有限公司CTO,清华大学2018创新领军工程博士,毕业于清华大学计算机科学与技术系知识工程研究室,研究领域包括文本数据挖掘和语义分析、知识图谱构建和应用等。长期致力于将语义信息挖掘和知识图谱技术应用于各种行业应用,在语义大数据分析、智能问答、辅助决策等应用领域拥有多年实践经验。

成为VIP会员查看完整内容
73

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
图神经网络三剑客:GCN、GAT与GraphSAGE
PaperWeekly
64+阅读 · 2020年2月27日
ADL108《知识图谱》开始报名了
中国计算机学会
14+阅读 · 2019年10月8日
清华大学:人工智能之知识图谱(附PPT)
人工智能学家
65+阅读 · 2019年6月9日
Arxiv
4+阅读 · 2018年7月4日
Arxiv
9+阅读 · 2018年2月4日
VIP会员
相关VIP内容
微信扫码咨询专知VIP会员