【NeurIPS2022】VICRegL:局部视觉特征的自监督学习

2022 年 10 月 6 日 专知


大多数最近的学习图像表示的自监督方法集中于生成具有不变性的全局特征或生成一组局部特征。前者最适合于分类任务,后者最适合于检测和分割任务。本文探讨了学习局部特征和全局特征之间的基本权衡。提出了一种新的VICRegL方法,该方法同时学习良好的全局和局部特征,在保持良好的分类任务性能的同时,在检测和分割任务上取得了优异的性能。具体地说,一个标准卷积网结构的两个相同的分支被提供相同图像的两个不同的扭曲版本。VICReg准则应用于全局特征向量对。同时,VICReg准则应用于出现在最后一个池化层之前的局部特征向量对。如果两个局部特征向量的l2距离小于阈值,或者它们的相对位置与两个输入图像之间的已知几何变换相一致,则它们会相互吸引。我们在线性分类和分割转移任务上展示了强大的性能。代码和经过预先训练的模型可以在https://github.com/facebookresearch/VICRegL上公开获取。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“VICR” 就可以获取【NeurIPS2022】VICRegL:局部视觉特征的自监督学习》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料
登录查看更多
0

相关内容

【NeurIPS2022】扩散视觉反事实解释
专知会员服务
23+阅读 · 2022年10月24日
【NeurIPS2022】基于最大熵编码的自监督学习
专知会员服务
26+阅读 · 2022年10月23日
【伯克利博士论文】学习在动态环境中泛化,103页pdf
专知会员服务
71+阅读 · 2022年10月12日
【NeurIPS2021】用于视频分割的密集无监督学习
专知会员服务
14+阅读 · 2021年11月14日
专知会员服务
25+阅读 · 2021年10月20日
专知会员服务
21+阅读 · 2021年8月26日
【NeurIPS2020】针对弱监督目标检测的综合注意力自蒸馏
专知会员服务
31+阅读 · 2020年11月12日
【NeurIPS2020】图神经网络中的池化再思考
专知会员服务
51+阅读 · 2020年10月25日
专知会员服务
28+阅读 · 2020年10月2日
【NeurIPS2022】扩散视觉反事实解释
专知
0+阅读 · 2022年10月24日
【NeurIPS2022】基于最大熵编码的自监督学习
【MIT】硬负样本的对比学习
专知
13+阅读 · 2020年10月15日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
12+阅读 · 2022年4月12日
Arxiv
13+阅读 · 2022年1月20日
Arxiv
12+阅读 · 2021年11月1日
How to Fine-Tune BERT for Text Classification?
Arxiv
13+阅读 · 2019年5月14日
VIP会员
相关VIP内容
【NeurIPS2022】扩散视觉反事实解释
专知会员服务
23+阅读 · 2022年10月24日
【NeurIPS2022】基于最大熵编码的自监督学习
专知会员服务
26+阅读 · 2022年10月23日
【伯克利博士论文】学习在动态环境中泛化,103页pdf
专知会员服务
71+阅读 · 2022年10月12日
【NeurIPS2021】用于视频分割的密集无监督学习
专知会员服务
14+阅读 · 2021年11月14日
专知会员服务
25+阅读 · 2021年10月20日
专知会员服务
21+阅读 · 2021年8月26日
【NeurIPS2020】针对弱监督目标检测的综合注意力自蒸馏
专知会员服务
31+阅读 · 2020年11月12日
【NeurIPS2020】图神经网络中的池化再思考
专知会员服务
51+阅读 · 2020年10月25日
专知会员服务
28+阅读 · 2020年10月2日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员