【ICML2022】长尾识别中分布外检测的部分和非对称对比学习

2022 年 7 月 5 日 专知


现有的分布外(OOD)检测方法通常以具有平衡类分布的训练集为基准。然而,在实际应用中,训练集通常具有长尾分布。在这项工作中,我们首先证明了现有的OOD检测方法在训练集为长尾分布时通常会出现显著的性能下降。通过分析,我们认为这是因为模型很难将分布中的少数尾类样本与真实的OOD样本区分开来,使得尾类更容易被错误地检测为OOD。为了解决这一问题,提出了部分和非对称监督对比学习(Partial and Asymmetric Supervised contrast Learning, PASCL),明确鼓励模型区分尾部类内分布样本和OOD样本。为了进一步提高分布内分类精度,我们提出了辅助分支微调(Auxiliary Branch Finetuning),它使用BN和分类层的两个独立分支分别进行异常检测和分布内分类。直觉上,分布内异常数据和OOD异常数据具有不同的底层分布。我们的方法在CIFAR10-LT、CIFAR100-LT和ImageNet-LT上的异常检测假阳性率(FPR)分别为1.29%、1.45%、0.69%,分布内分类准确率为3.24%、4.06%、7.89%。代码和预训练的模型可以在https: //github.com/amazon-research/上获得。



专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“PACL” 就可以获取【ICML2022】长尾识别中分布外检测的部分和非对称对比学习》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料
登录查看更多
0

相关内容

【ICML2022】基于元语义正则化的介入性对比学习
专知会员服务
20+阅读 · 2022年7月1日
【ICML2022】MetAug:通过元特征增强的对比学习
专知会员服务
24+阅读 · 2022年5月20日
【AAAI2022】跨域少样本图分类
专知会员服务
29+阅读 · 2022年1月22日
【NeurIPS2021】基于关联与识别的少样本目标检测
专知会员服务
21+阅读 · 2021年11月29日
专知会员服务
32+阅读 · 2021年7月27日
专知会员服务
24+阅读 · 2021年7月11日
专知会员服务
22+阅读 · 2021年6月14日
专知会员服务
44+阅读 · 2021年1月31日
【AAAI2021】协同挖掘:用于稀疏注释目标检测的自监督学习
【NeurIPS2020】基于能量的分布外检测
专知会员服务
13+阅读 · 2020年10月10日
【KDD2022】自监督超图Transformer推荐系统
专知
1+阅读 · 2022年8月1日
【ICML2022】时序自监督视频transformer
专知
1+阅读 · 2022年7月28日
【CVPR2022】ContrastMask:对比学习来分割各种
专知
0+阅读 · 2022年3月21日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年9月11日
Arxiv
0+阅读 · 2022年9月9日
Arxiv
13+阅读 · 2022年1月20日
Arxiv
19+阅读 · 2021年4月8日
VIP会员
相关VIP内容
【ICML2022】基于元语义正则化的介入性对比学习
专知会员服务
20+阅读 · 2022年7月1日
【ICML2022】MetAug:通过元特征增强的对比学习
专知会员服务
24+阅读 · 2022年5月20日
【AAAI2022】跨域少样本图分类
专知会员服务
29+阅读 · 2022年1月22日
【NeurIPS2021】基于关联与识别的少样本目标检测
专知会员服务
21+阅读 · 2021年11月29日
专知会员服务
32+阅读 · 2021年7月27日
专知会员服务
24+阅读 · 2021年7月11日
专知会员服务
22+阅读 · 2021年6月14日
专知会员服务
44+阅读 · 2021年1月31日
【AAAI2021】协同挖掘:用于稀疏注释目标检测的自监督学习
【NeurIPS2020】基于能量的分布外检测
专知会员服务
13+阅读 · 2020年10月10日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员