在多变量时间序列(MTS)分类中,发现对模型性能重要的特征(如传感器)至关重要,但由于MTS数据复杂且高维的性质、复杂的时间动态以及对领域特定解释的需求,这一过程极具挑战性。目前针对MTS的解释方法大多侧重于时间中心的解释,适合定位重要的时间段,但在识别关键特征方面效果较差。这一局限性凸显了特征中心方法的迫切需要,这是一种重要但常被忽视的视角,能够补充时间中心分析。为了弥补这一差距,我们的研究引入了一种新的MTS特征中心解释和评估框架,名为CAFO(通道注意力与特征正交化)。CAFO采用基于卷积的方法与通道注意力机制,包含深度可分离通道注意力模块(DepCA)和基于QR分解的损失以促进特征间的正交化。我们证明了这种正交化增强了注意力分布的可分离性,从而精炼和稳定了特征重要性的排名。这种特征排名的改进提高了我们对MTS中特征可解释性的理解。此外,我们开发了评估全局和类别特定特征重要性的指标。通过在两个主要公共基准和实际数据集(包括合成和自收集的数据集)上的广泛实证分析,验证了我们的框架在评估MTS分类任务中特征重要性方面的稳健性和信息性。结果证实了CAFO在评估MTS分类任务中特征重要性方面的稳健性和信息性。本研究不仅推进了MTS中特征中心解释的理解,还为未来的特征中心解释探索奠定了基础。代码可在https://github.com/eai-lab/CAFO获取。

成为VIP会员查看完整内容
24

相关内容

【KDD2024】HiGPT:异构图语言模型
专知会员服务
18+阅读 · 7月9日
【CVPR2024】用于视觉-语言导航的体积环境表示
专知会员服务
17+阅读 · 3月24日
【ICML2023】特征和标签偏移下时间序列的域适应
专知会员服务
25+阅读 · 2023年4月26日
【CVPR2023】NS3D:3D对象和关系的神经符号Grounding
专知会员服务
21+阅读 · 2023年3月26日
【CIKM2022】基于双向Transformers对比学习的序列推荐
专知会员服务
20+阅读 · 2022年8月10日
【CVPR2022】多视图聚合的大规模三维语义分割
专知会员服务
20+阅读 · 2022年4月20日
专知会员服务
24+阅读 · 2021年7月17日
【ICML2021】具有线性复杂度的Transformer的相对位置编码
专知会员服务
24+阅读 · 2021年5月20日
AAAI 2022 | ProtGNN:自解释图神经网络
专知
10+阅读 · 2022年2月28日
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
【CVPR 2020 Oral】小样本类增量学习
专知
16+阅读 · 2020年6月26日
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 7月14日
A Survey of Large Language Models
Arxiv
407+阅读 · 2023年3月31日
Arxiv
21+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【KDD2024】HiGPT:异构图语言模型
专知会员服务
18+阅读 · 7月9日
【CVPR2024】用于视觉-语言导航的体积环境表示
专知会员服务
17+阅读 · 3月24日
【ICML2023】特征和标签偏移下时间序列的域适应
专知会员服务
25+阅读 · 2023年4月26日
【CVPR2023】NS3D:3D对象和关系的神经符号Grounding
专知会员服务
21+阅读 · 2023年3月26日
【CIKM2022】基于双向Transformers对比学习的序列推荐
专知会员服务
20+阅读 · 2022年8月10日
【CVPR2022】多视图聚合的大规模三维语义分割
专知会员服务
20+阅读 · 2022年4月20日
专知会员服务
24+阅读 · 2021年7月17日
【ICML2021】具有线性复杂度的Transformer的相对位置编码
专知会员服务
24+阅读 · 2021年5月20日
相关基金
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员