复杂系统如何检测异常?北卡UNCC等最新《复杂分布式系统中基于图的深度学习异常检测方法综述》,阐述最新图异常检测技术进展

2022 年 6 月 12 日 专知


异常检测是由硬件和软件组成的复杂分布式系统的一个重要问题。全面了解此类系统的异常检测需求和挑战对系统的安全性至关重要,尤其是在实际部署中。虽然已经有许多不同的研究领域和应用领域来处理这个问题,但很少有人试图对这种系统进行深入的研究。大多数异常检测技术都是为特定的应用领域专门开发的,而其他的则更为通用。在这项综述中,我们探索了基于图的算法在识别和缓解复杂的分布式非均匀系统中不同类型的异常方面的巨大潜力我们主要关注的是,当应用于分布在复杂分布式系统中的异构计算设备时,提供对图的深入研究。本研究分析、比较和对比了该领域的最新研究文章。首先,我们描述了真实世界分布式系统的特征,以及在这样复杂的网络中异常检测的具体挑战,例如数据和评估、异常的性质和真实世界的需求。稍后,我们将讨论为什么可以在此类系统中使用图以及使用图的好处。然后,我们将适当地深入研究最先进的方法,并突出他们的优势和弱点。最后,我们评估和比较这些方法,并指出可能改进的地方。


异常检测是指在数据或系统中发现与预期行为[1]不匹配的异常行为或模式。换句话说,系统已知的正确行为中的非良性变化可以被检测为异常。由于分布式异构系统的特性,异常检测是其关键。在这样的系统中,不同的组件,从传感器这样的小变化,一直工作到大型组件,如控制设施,以实现系统的总体目标。所有这些组件都分布在一个大网络中;因此,这个词是分布式的,而它们在结构和数据产生方面是不同的,因此,这个词是异构的。


许多分布式异构系统在关键和/或重要领域(如发电和配电系统)运行。因此,它们的安全性和正确性至关重要。漏洞可以在这些系统的每个方面和不同的抽象层次中看到;从系统或网络中存在问题的单个组件,到发现这些组件相互连接以完成更高级任务的异常或不正常情况。表1显示了几种分布式异构网络及其可能的异常来源。在这些系统中,异常检测必须满足许多要求,这使得任务更加复杂。考虑到异常的性质,异常必须通过处理大量数据来检测,这使得检测异常是一项具有挑战性的任务,而且现实世界的设置也有限制。



近年来,神经网络已经显示出了巨大的潜力,并得到了极大的探索。他们开辟了新的途径,增加了对扩展深度学习方法的兴趣,用于异常检测[2],[3]。异常检测带来了一些实际的挑战,使得采用深度学习算法变得困难。在异常检测的学习方法中,数据以图的形式表示以提取更多信息(如关系特征)的应用越来越多。然而,图可以是不规则的;例如,一个图可能有大小可变的无序节点,并且/或者图中的节点可能有不同数量的邻居。因此,在图像处理等领域中,一些重要的操作(如正则卷积)容易计算,因此很难应用到图域[4]。此外,现有机器学习算法的一个核心假设是实例彼此独立。这个假设对于图数据来说是没有意义的,因为每个实例(节点)都通过链接和交互与其他实例(节点)相关。这导致整个研究领域都在探索图表在这种背景下的使用。


现有的综述主要是将异常检测作为一个单独的问题来处理,或者应用于特定的领域,如社交媒体互动、网络流量、推荐系统等。一些研究工作主要是基于图学习[5]的异常检测。一些调查侧重于异常检测的具体应用,如[6]。少数论文关注大数据异常检测及其挑战[7],[8]。此外,还有大量的勘探使用深度学习技术[2],[3],[9],[10],[11]来处理一般的异常检测。然而,这些工作都没有单独研究如何利用图来检测现实世界中的异构分布式系统中的异常。


本次综述的主要重点是全面介绍基于图的解决异常检测问题的技术现状。特别是,我们关注实时复杂的分布式系统,并对这些系统进行定性建模,以识别和分析利用图的优势进行异常检测的各种方法。简而言之,我们在此次综述中做出了以下显著贡献:


  • 对三个概念性用例进行建模,并利用它们来探索异常检测算法的需求、挑战和好处。
  • 识别真实的异构分布式系统中异常检测的逻辑、算法和实现需求和挑战。
  • 对不同的基于图的异常检测算法进行深入的比较,以处理异常,并在我们介绍的三个概念性用例中对它们进行定性建模。
  • 为分布式异构系统中基于图的异常检测提供了未来研究方向。



基于图的异常检测算法


将联邦学习应用于两个分布式集群(局域网和传感器集群)的异常检测。这里N是连接到联邦云服务器的集群数量。每个网络都有自己的测试和训练数据集、本地存储和丢失功能。服务器接收来自所有网络局部模型的各个权值,然后根据它们的可用图属性对它们进行聚合,同时返回全局权值。


用于异常检测的图自动编码器网络。有两个恶意用户(相当于网络图中的异常节点)连接到网络中。将网络图输入自编码器,计算节点和边缘的重构损失。在这个简单的例子中,只需要将重建损失与一个恒定的阈值进行比较,就可以检测到异常,但是这个过程可以更加先进和精确。

在这个图中,我们已经将SL-GAD[133]框架应用于在2.3节中讨论的LAN概念用例。(A)是图视图采样模块,选择目标节点,对两个子图进行采样。(B)是生成型和对比型辨别模块。首先,将目标节点和两个子图提供给GNN编码器,并创建图嵌入。在下一步,两个不同的目标,鉴别器和回归器试图捕获图结构和属性中的异常。生成回归模块用于捕获每个节点属性中的异常,而鉴别器模块负责发现图结构中的异常。最后,在(C)中,对比分数和生成分数相结合,计算出最终的异常分数。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“ACDS” 就可以获取复杂系统如何检测异常?北卡UNCC等最新《复杂分布式系统中基于图的深度学习异常检测方法综述》,阐述最新图异常检测技术进展》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料
登录查看更多
6

相关内容

在数据挖掘中,异常检测(英语:anomaly detection)对不符合预期模式或数据集中其他项目的项目、事件或观测值的识别。通常异常项目会转变成银行欺诈、结构缺陷、医疗问题、文本错误等类型的问题。异常也被称为离群值、新奇、噪声、偏差和例外。 特别是在检测滥用与网络入侵时,有趣性对象往往不是罕见对象,但却是超出预料的突发活动。这种模式不遵循通常统计定义中把异常点看作是罕见对象,于是许多异常检测方法(特别是无监督的方法)将对此类数据失效,除非进行了合适的聚集。相反,聚类分析算法可能可以检测出这些模式形成的微聚类。 有三大类异常检测方法。[1] 在假设数据集中大多数实例都是正常的前提下,无监督异常检测方法能通过寻找与其他数据最不匹配的实例来检测出未标记测试数据的异常。监督式异常检测方法需要一个已经被标记“正常”与“异常”的数据集,并涉及到训练分类器(与许多其他的统计分类问题的关键区别是异常检测的内在不均衡性)。半监督式异常检测方法根据一个给定的正常训练数据集创建一个表示正常行为的模型,然后检测由学习模型生成的测试实例的可能性。
深度学习模型鲁棒性研究综述
专知会员服务
88+阅读 · 2022年1月23日
专知会员服务
74+阅读 · 2021年9月27日
专知会员服务
34+阅读 · 2021年8月1日
最新《图机器学习》综述论文,19页pdf
专知会员服务
148+阅读 · 2021年5月5日
【WSDM2021-Ttutorial】深度学习异常检测,111页ppt
专知会员服务
150+阅读 · 2021年3月10日
最新《可解释深度学习XDL》2020研究进展综述大全,54页pdf
最新《分布式机器学习》论文综述最新DML进展,33页pdf
专知会员服务
117+阅读 · 2019年12月26日
综述| 当图神经网络遇上强化学习
图与推荐
19+阅读 · 2022年7月1日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
Arxiv
12+阅读 · 2022年1月26日
GeomCA: Geometric Evaluation of Data Representations
Arxiv
11+阅读 · 2021年5月26日
Arxiv
49+阅读 · 2020年12月16日
Arxiv
38+阅读 · 2020年12月2日
已删除
Arxiv
31+阅读 · 2020年3月23日
Deep Graph Infomax
Arxiv
16+阅读 · 2018年12月21日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
25+阅读 · 2018年1月24日
VIP会员
相关VIP内容
深度学习模型鲁棒性研究综述
专知会员服务
88+阅读 · 2022年1月23日
专知会员服务
74+阅读 · 2021年9月27日
专知会员服务
34+阅读 · 2021年8月1日
最新《图机器学习》综述论文,19页pdf
专知会员服务
148+阅读 · 2021年5月5日
【WSDM2021-Ttutorial】深度学习异常检测,111页ppt
专知会员服务
150+阅读 · 2021年3月10日
最新《可解释深度学习XDL》2020研究进展综述大全,54页pdf
最新《分布式机器学习》论文综述最新DML进展,33页pdf
专知会员服务
117+阅读 · 2019年12月26日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
相关论文
Arxiv
12+阅读 · 2022年1月26日
GeomCA: Geometric Evaluation of Data Representations
Arxiv
11+阅读 · 2021年5月26日
Arxiv
49+阅读 · 2020年12月16日
Arxiv
38+阅读 · 2020年12月2日
已删除
Arxiv
31+阅读 · 2020年3月23日
Deep Graph Infomax
Arxiv
16+阅读 · 2018年12月21日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
25+阅读 · 2018年1月24日
Top
微信扫码咨询专知VIP会员