Dual-R-DETR：通过Transformer解码器中的成对路由解决查询竞争
计算机视觉与模式识别
2026-04-14 v2
摘要
检测Transformer（DETR）将目标检测表述为集合预测问题，并实现了无需后处理的端到端训练。然而，DETR中的目标查询通过对称自注意力相互作用，这强制所有查询对之间均匀竞争。这往往导致低效的查询动态，其中多个查询收敛到同一目标，而其他查询未能探索替代区域。我们提出了Dual-R-DETR，一种竞争感知的DETR框架，通过Transformer解码器中的成对路由显式调节查询交互。Dual-R-DETR根据外观相似性、预测置信度和空间几何区分查询间的关系为竞争性或合作性。它引入了两种互补的路由行为：抑制者路由以减弱针对同一目标的查询之间的交互，以及委托者路由以鼓励在不同区域之间的多样化。这些行为通过在解码器自注意力中注入轻量级、可学习的低秩偏置来实现，从而实现非对称查询交互，同时保持标准注意力公式。为确保推理效率，路由偏置仅在训练期间使用双分支策略应用，推理时恢复为标准自注意力且无额外计算开销。在COCO和Cityscapes上的广泛实验表明，Dual-R-DETR持续改善了多种DETR变体，在ResNet-50骨干网络上以1.7% mAP超越了DINO，并在可比设置下以Swin-L骨干网络取得了57.6% mAP。代码可在 https://github.com/YZk67/Dual-R-DETR 获取。
引用
@article{arxiv.2512.13876,
title = {Dual-R-DETR: Resolving Query Competition with Pairwise Routing in Transformer Decoders},
author = {Ye Zhang and Qi Chen and Wenyou Huang and Rui Liu and Zhengjian Kang},
journal= {arXiv preprint arXiv:2512.13876},
year = {2026}
}
备注
6 pages, 2 figures, Accepted at ICME2026