MetaSlot：突破目标中心学习中的固定槽数量限制
计算机视觉与模式识别
2025-10-09 v2 机器学习
摘要
学习目标级、结构化表示被广泛认为是视觉领域更好泛化的关键，并支撑着下一代预训练视觉模型（PVMs）的设计。主流的目标中心学习（OCL）方法采用槽注意力或其变体，将目标的超像素迭代聚合到一组固定的查询特征向量（称为槽）中。然而，它们对静态槽数量的依赖导致当目标数量变化时，一个目标会被表示为多个部分。我们引入了MetaSlot，一种即插即用的槽注意力变体，能够适应可变的目标数量。MetaSlot（i）通过向量量化生成的槽表示，维护一个包含数据集中目标原型（prototypes）的码本；（ii）通过使用码本量化传统聚合的槽，去除重复槽；（iii）向槽注意力迭代中注入逐渐减弱的噪声，以加速和稳定聚合过程。MetaSlot是一种通用的槽注意力变体，可以无缝集成到现有的OCL架构中。在多个公开数据集和任务（包括目标发现和识别）中，与现有槽注意力变体相比，配备MetaSlot的模型取得了显著的性能提升和明显可解释的槽表示。
引用
@article{arxiv.2505.20772,
title = {MetaSlot: Break Through the Fixed Number of Slots in Object-Centric Learning},
author = {Hongjia Liu and Rongzhen Zhao and Haohan Chen and Joni Pajarinen},
journal= {arXiv preprint arXiv:2505.20772},
year = {2025}
}