Graph Neural Networks (GNNs) have demonstrated remarkable efficacy in handling graph-structured data; however, they exhibit failures after deployment, which can cause severe consequences. Hence, conducting thorough testing before deployment becomes imperative to ensure the reliability of GNNs. However, thorough testing requires numerous manually annotated test data. To mitigate the annotation cost, strategically prioritizing and labeling high-quality unlabeled inputs for testing becomes crucial, which facilitates uncovering more model failures with a limited labeling budget. Unfortunately, existing test input prioritization techniques either overlook the valuable information contained in graph structures or are overly reliant on attributes extracted from the target model, i.e., model-aware attributes, whose quality can vary significantly. To address these issues, we propose a novel test input prioritization framework, named GraphRank, for GNNs. GraphRank introduces model-agnostic attributes to compensate for the limitations of the model-aware ones. It also leverages the graph structure information to aggregate attributes from neighboring nodes, thereby enhancing the model-aware and model-agnostic attributes. Furthermore, GraphRank combines the above attributes with a binary classifier, using it as a ranking model to prioritize inputs. This classifier undergoes iterative training, which enables it to learn from each round's feedback and improve its performance accordingly. Extensive experiments demonstrate GraphRank's superiority over existing techniques.


翻译:图神经网络(GNNs)在处理图结构数据方面已展现出卓越的性能;然而,其在部署后仍会出现故障,可能导致严重后果。因此,在部署前进行全面测试对于确保GNNs的可靠性至关重要。然而,全面测试需要大量人工标注的测试数据。为降低标注成本,策略性地对高质量未标注输入进行优先级排序与标注以用于测试变得尤为关键,这有助于在有限的标注预算下发现更多模型故障。遗憾的是,现有的测试输入优先级排序技术要么忽视了图结构中蕴含的宝贵信息,要么过度依赖于从目标模型中提取的属性(即模型感知属性),而这些属性的质量可能存在显著差异。为解决这些问题,我们提出了一种名为GraphRank的新型图神经网络测试输入优先级排序框架。GraphRank引入了模型无关属性,以弥补模型感知属性的局限性。同时,它利用图结构信息聚合来自相邻节点的属性,从而增强模型感知与模型无关属性。此外,GraphRank将上述属性与一个二元分类器相结合,将其作为排序模型来对输入进行优先级排序。该分类器经过迭代训练,使其能够从每一轮的反馈中学习并相应提升性能。大量实验证明了GraphRank相对于现有技术的优越性。

0
下载
关闭预览

相关内容

一个具体事物,总是有许许多多的性质与关系,我们把一个事物的性质与关系,都叫作事物的属性。 事物与属性是不可分的,事物都是有属性的事物,属性也都是事物的属性。 一个事物与另一个事物的相同或相异,也就是一个事物的属性与另一事物的属性的相同或相异。 由于事物属性的相同或相异,客观世界中就形成了许多不同的事物类。具有相同属性的事物就形成一类,具有不同属性的事物就分别地形成不同的类。
AAAI2021 | 学习预训练图神经网络
专知会员服务
116+阅读 · 2021年1月28日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员