【AAAI2020】基于属性指导和纯视觉的注意力对齐的小样本识别

2021 年 1 月 14 日 专知

小样本识别的目标是在每类只有少量有标签样本可供使用的限制下识别新的类别。受到人类学习过程的启发,现有的一些方法引入了额外语义模态来增强从训练样本(称为支持样本)学习更好的表征。然而,这些方法忽视了为测试样本(称为查询样本)设计特殊的处理机制。在失去了潜在的效果提升的同时,这些方法可能导致模态混合表征和同类别的纯视觉表征之间存在偏移,最终导致识别的错误率上升。

在本文中,我们提出一种属性指导的注意力模块(AGAM),来使用人工属性标注学习更有区分性的特征。这种即插即用的模块能够利用视觉内容和对应的属性标注一起关注支持样本中重要的通道和区域。同时,对于属性标注不可得的查询样本,这种特征选择过程同样能够只利用视觉内容便可执行。因此,两种样本的表征经过了相似的细粒度优化。 另外,我们提出一种 注意力对齐机制 ,来从属性的指导蒸馏知识到纯视觉的特征选择过程,使其能够在不利用属性标注的限制下学会关注更具语义的特征。 大量的实验和分析表明,我们提出的模块可以显著改进现有的基于度量的方法来达到最先进的性能。


AGAM的总体架构。取决于图像的属性标注是否可得,属性指导分支和自我指导分支中的一支被选择。输入的特征依次经过 (a) 通道注意力模块和 (b) 空间注意力模块来获得最终改善的特征。


https://www.zhuanzhi.ai/paper/12ed44144cb392cc0096d65621c6f19c


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“AGAM” 可以获取《【AAAI2020】基于属性指导和纯视觉的注意力对齐的小样本识别》专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
5

相关内容

【CVPR2021】基于端到端预训练的视觉-语言表征学习
专知会员服务
37+阅读 · 2021年4月9日
【ACMMM2020】零样本语义分割的上下文感知特征生成
专知会员服务
15+阅读 · 2020年8月21日
【DeepMind】CrossTransformers: 空间感知的小样本迁移
专知会员服务
39+阅读 · 2020年7月26日
【SIGIR 2020】 基于协同注意力机制的知识增强推荐模型
专知会员服务
89+阅读 · 2020年7月23日
【ACL2020-密歇根州立大学】语言和视觉推理的跨模态关联
注意力图神经网络的多标签文本分类
专知会员服务
111+阅读 · 2020年3月28日
【MIT】硬负样本的对比学习
专知
13+阅读 · 2020年10月15日
【KDD2020】图神经网络生成式预训练
专知
22+阅读 · 2020年7月3日
注意力图神经网络的多标签文本分类
专知
8+阅读 · 2020年3月28日
Arxiv
3+阅读 · 2020年2月5日
Meta-Transfer Learning for Few-Shot Learning
Arxiv
4+阅读 · 2019年4月9日
Arxiv
3+阅读 · 2016年2月24日
VIP会员
相关VIP内容
Top
微信扫码咨询专知VIP会员