Anchor DETR: Query Design for Transformer-Based Detector

中文题目:锚点DETR:基于transformer检测器的查询设计 论文链接:https://www.zhuanzhi.ai/paper/0700d0ebab68ec89aab99559175d9768

之前 transformer 检测算法的物体查询是一组可学向量,但这组向量没有显式的物理意义,查询对应的预测集也没有特定的模式因而难以优化。

本文提出基于锚点的查询设计,如此每个查询有显式的物理意义且仅关注锚点附近的物体。同时,本文设计的查询可以使一个锚点预测多个物体,解决一个区域可能有多个物体的难点。

本文还设计了一种行列特征解耦的 attention,减少显存的消耗且保持精度不降低。本方法实现简单,比 DETR 性能更高且优化更易、速度更快、显存更省。

成为VIP会员查看完整内容
13

相关内容

【NeurIPS2021】SOLQ:基于学习查询的物体分割
专知会员服务
10+阅读 · 2021年11月9日
【TPAMI2021】基于知识锚点进化的AutoML
专知
2+阅读 · 2021年5月1日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Transformers in Medical Image Analysis: A Review
Arxiv
40+阅读 · 2022年2月24日
Arxiv
17+阅读 · 2021年3月29日
Arxiv
26+阅读 · 2020年2月21日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Transformers in Medical Image Analysis: A Review
Arxiv
40+阅读 · 2022年2月24日
Arxiv
17+阅读 · 2021年3月29日
Arxiv
26+阅读 · 2020年2月21日
微信扫码咨询专知VIP会员