ICML 2022 | 基于结构化数据的异常检测再思考:我们究竟需要怎样的图神经网络?

2022 年 6 月 10 日 PaperWeekly


©作者 | 机器之心编辑部

来源 | 机器之心



图神经网络(GNN)被广泛应用于结构化数据的异常检测,例如社交网络恶意账号检测、金融交易欺诈检测等。香港科技大学和斯坦福大学的研究者首次从谱域的角度(即图拉普拉斯矩阵的谱分解)分析了异常数据可能造成的影响。核心发现是:异常数据将导致频谱能量出现 “右移” 现象,即频谱能量分布从低频向高频移动。基于这一发现,他们又提出了 Beta 小波图神经网络(BWGNN)。它拥有多个具有局部性的带通滤波器,能够更好捕获 “右移” 产生的高频异常信息。在四个大规模图异常检测数据集上,BWGNN 的性能均优于现有的模型。



论文标题:

Rethinking Graph Neural Networks for Anomaly Detection

论文链接:

https://arxiv.org/abs/2205.15508

代码链接:

https://github.com/squareRoot3/Rethinking-Anomaly-Detection



面向结构化图数据的异常检测:背景与挑战


异常检测是数据挖掘的经典任务之一。分析异常数据有助于企业或用户理解其背后的形成机制,从而做出相应决策,避免损失。随着网络发展,面向结构化数据的异常检测,即图异常检测,受到越来越多关注。

图异常检测具体可定义为:寻找图上的少部分对象(节点、边、子图等),它们与其余大多数对象有着不同分布规律。 本文专注于图上异常节点的检测任务 相较于传统的异常检测方法,图异常检测能够利用不同实体之间的关联信息,更好服务于网络安全、欺诈检测、水军检测、金融风控、故障监测等实际场景。

下图直观对比了传统异常检测与面向图的异常检测任务之间的区别。

▲ 图1. 传统异常检测与面向图的异常检测任务对比

近年来,图神经网络成为分析处理结构化数据的一大利器。图神经网络通过学习包含节点自身特征和邻居信息的嵌入表示,来更好完成分类、重建、回归等下游任务。

然而,通用的图神经网络(如图卷积网络等)主要针对正常数据设计,在异常检测任务上容易遇到 “过平滑”(over-smoothing) 问题,即异常节点和正常节点的表达难以区分,影响异常检测的准确率。例如,在金融欺诈检测的实际应用中,异常账户通常会先与多个正常账户进行正常交易来伪装自己,降低自身可疑程度,之后再展开违规交易。这种 “关系欺诈” 进一步增加了图异常检测的难度。

为了解决上述困难,研究者专门提出 针对异常检测任务的图神经网络模型 ,包括 1)利用注意力机制从多个视图聚合邻域信息;2)利用重采样方法聚合不同类别的邻域信息;3)设计额外的损失函数来辅助图神经网络的训练等。这些方法主要从空域的角度设计图神经网络来处理异常,但并没有人从谱域的角度考虑过该问题。

事实证明,选择不同的频谱滤波器(spectral filter)会影响图神经网络的表达能力,从而造成性能上的差异。



另辟蹊径:谱域视角下的图异常检测


为了填补现有研究的空白,本文希望回答这样一个问题: 如何为图神经网络量身定做一个频谱滤波器用于异常检测?

本文首次尝试了从 谱域视角 分析图上的异常数据,并观察到:异常数据会导致频谱能量的 “右移”,即能量更少集中在低频,同时更多集中在高频。

为了可视化这种右移现象,研究者首先随机生成了一个有 500 个节点的 Barabási–Albert 图(BA 图),并假设图上正常节点和异常节点的属性分别遵循两个不同的高斯分布,其中异常节点的方差更大。

图片的上半部分展示了包含不同程度异常的数据在 BA 图上的分布,而下半部分展示了对应的频谱能量分布。其中,柱状图代表对应频谱区间的能量占比,折线图代表从零到该点频域能量的累积占比。

▲ 图2. 频谱能量 “右移” 现象的可视化

从上图可以看出,当异常数据占比为 0% 时,大部分能量集中在低频部分(λ<0.5)。通过增大异常节点相对于正常节点的方差 σ 或比例 α,数据的异常程度逐渐增大,频谱上低频部分的能量逐渐变少,高频部分则相应增加。基于高斯分布假设,本文 从理论上严格证明了数据异常程度的增大和频谱能量的 “右移” 之间存在单调关系

在实际场景中,异常数据通常遵循更加复杂的分布。在四个大规模图异常检测数据集上,研究者同样证实了 “右移” 现象的存在。以下图亚马逊异常用户检测数据集为例,当删除数据中一部分异常节点后,频谱上低频能量显著增多,同时高频则相应减少。如果删除同样数量的随机节点,频谱的能量分布几乎没有变化。这进一步验证了异常数据是频谱能量 “右移” 的关键。

▲ 图3. 亚马逊异常用户检测数据集上删除不同节点对频谱能量分布的影响:原图 (The Original),删除随机节点 (Drop-Random),删除异常节点 (Drop-Anomaly)



图异常检测的新利器:Beta 小波图神经网络


上节的分析表明,在图异常检测时需要关注 “右移” 效应。例如上图亚马逊数据集中,特征值 λ=1 附近的频谱信息与异常数据有较大关联。为了更好地捕获异常信息,图神经网络需要具备带通滤波器的性质,只保留 λ=1 附近的信号同时过滤其余信号。

遗憾的是,现有的图神经网络大多属于低通滤波器或者自适应滤波器,它们无法保证带通性质。其中自适应滤波器虽然具有拟合任意函数的能力,但在异常检测中同样可能退化为低通滤波器。这是因为在整个数据集中,异常数据对应的高频信息占比较小,而大部分频谱能量仍然集中在低频。

为了更好处理异常数据造成的 “右移”,研究者提出了一种图异常检测的新方法 —— Beta 小波图神经网络 (BWGNN) 。通过借鉴 Hammond 图小波理论,他们基于 Beta 函数设计了新的小波核作为图神经网络的频谱滤波器。

相比于常用的热核 (Heat Kernel) 函数,Beta 函数作为小波核不仅符合带通滤波器的要求,还具有更好的频域局部性与空域局部性。下图对比了热核小波与 Beta 核小波的区别。


▲ 图4. 热核小波与 Beta 核小波在谱域(左)和空域(右)上的对比,Beta 函数具有更好的带通与局部性质。


本文 在四个大规模图异常检测数据集上验证了 BWGNN 的性能 。其中,Yelp 数据集面向点评网站异常评论检测,Amazon 数据集面向电商平台异常用户检测,T-Finance 数据集面向交易网络异常用户检测,T-Social 数据集面向社交网络异常用户检测,包含多达五百万个节点和七千万条边。

从下表可以看出,与传统分类模型、通用图神经网络和专门的图异常检测模型相比,BWGNN 在 40% 训练数据和 1% 训练数据(半监督)两个场景下均取得更好的效果。在运行效率上,BWGNN 与大部分通用图神经网络耗时接近,比其余图异常检测模型更高效。




总结


本文中,研究者发现图上异常节点的出现会导致频谱能量 “右移”,为面向结构化数据的异常检测提供了一种新视角。基于该发现,本文提出了图异常检测的新工具——Beta 小波图神经网络 (BWGNN)。它通过专门设计的带通滤波器来捕获 “右移” 产生的高频异常信息,在多个数据集上取得了最优效果。

在实际落地中,图异常检测通常是一个复杂的系统工程,但选择合适的图神经网络是影响系统性能的一个关键因素。研究者提出的 BWGNN 设计精简、复杂度低、易于替换,是图神经网络的一项新选择。
登录查看更多
1

相关内容

在数据挖掘中,异常检测(英语:anomaly detection)对不符合预期模式或数据集中其他项目的项目、事件或观测值的识别。通常异常项目会转变成银行欺诈、结构缺陷、医疗问题、文本错误等类型的问题。异常也被称为离群值、新奇、噪声、偏差和例外。 特别是在检测滥用与网络入侵时,有趣性对象往往不是罕见对象,但却是超出预料的突发活动。这种模式不遵循通常统计定义中把异常点看作是罕见对象,于是许多异常检测方法(特别是无监督的方法)将对此类数据失效,除非进行了合适的聚集。相反,聚类分析算法可能可以检测出这些模式形成的微聚类。 有三大类异常检测方法。[1] 在假设数据集中大多数实例都是正常的前提下,无监督异常检测方法能通过寻找与其他数据最不匹配的实例来检测出未标记测试数据的异常。监督式异常检测方法需要一个已经被标记“正常”与“异常”的数据集,并涉及到训练分类器(与许多其他的统计分类问题的关键区别是异常检测的内在不均衡性)。半监督式异常检测方法根据一个给定的正常训练数据集创建一个表示正常行为的模型,然后检测由学习模型生成的测试实例的可能性。
【ICML2022】图神经网络的局域数据增强方法
专知会员服务
30+阅读 · 2022年7月24日
【ICML2022】图神经网络异常检测的再思考
专知会员服务
33+阅读 · 2022年6月3日
专知会员服务
15+阅读 · 2021年10月4日
基于深度学习的图异常检测技术综述
专知会员服务
83+阅读 · 2021年7月28日
专知会员服务
95+阅读 · 2021年5月25日
专知会员服务
37+阅读 · 2020年11月24日
【NeurIPS 2020】图神经网络GNN架构设计
专知会员服务
83+阅读 · 2020年11月19日
最新《图神经网络模型与应用》综述论文
专知会员服务
293+阅读 · 2020年8月2日
【图神经网络(GNN)结构化数据分析】
专知会员服务
115+阅读 · 2020年3月22日
【ICML2022】图神经网络异常检测的再思考
谷歌NIPS'21 | 如何让图神经网络更稳健?
图与推荐
1+阅读 · 2022年3月22日
TKDE'21 | 面向大规模图数据的对抗攻击
图与推荐
0+阅读 · 2021年10月22日
KDD'21 | 如何评估GNN的解释性模型?
图与推荐
1+阅读 · 2021年9月30日
综述 | 基于GNN的异常检测
图与推荐
1+阅读 · 2021年9月27日
图神经网络最近这么火,不妨看看我们精选的这七篇
人工智能前沿讲习班
37+阅读 · 2018年12月10日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
8+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年7月27日
Arxiv
0+阅读 · 2022年7月26日
Arxiv
10+阅读 · 2020年6月12日
Arxiv
29+阅读 · 2018年4月6日
VIP会员
相关VIP内容
【ICML2022】图神经网络的局域数据增强方法
专知会员服务
30+阅读 · 2022年7月24日
【ICML2022】图神经网络异常检测的再思考
专知会员服务
33+阅读 · 2022年6月3日
专知会员服务
15+阅读 · 2021年10月4日
基于深度学习的图异常检测技术综述
专知会员服务
83+阅读 · 2021年7月28日
专知会员服务
95+阅读 · 2021年5月25日
专知会员服务
37+阅读 · 2020年11月24日
【NeurIPS 2020】图神经网络GNN架构设计
专知会员服务
83+阅读 · 2020年11月19日
最新《图神经网络模型与应用》综述论文
专知会员服务
293+阅读 · 2020年8月2日
【图神经网络(GNN)结构化数据分析】
专知会员服务
115+阅读 · 2020年3月22日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
8+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员