具重新初始化与自蒸馏的 Slot 注意力

与基于稠密特征图的流行解决方案不同，基于对象的学习（Object-Centric Learning, OCL）将视觉场景表示为子符号的对象级特征向量，称为槽位（slots），这在涉及视觉模态的任务中具有高度的灵活性。OCL 通常通过迭代应用竞争性交叉注意力（Slot Attention）来聚合对象超像素到槽位，其中槽位作为查询。然而，一旦初始化，这些槽位就会被粗略地重复使用，导致冗余槽位与信息丰富的槽位竞争表示对象。这通常导致对象被错误地分割为部分。此外，主流方法仅从解码槽位重构输入中派生监督信号，忽略了基于内部信息的潜在监督。为解决这些问题，我们提出了具重新初始化和自蒸馏的 Slot 注意力（DIAS）：$\emph{i})$ 我们减少聚合槽位的冗余性，并重新初始化额外的聚合以更新剩余槽位；$\emph{ii})$ 我们引导第一次聚合迭代中的差差注意力图逼近最后一次迭代中的优异注意力图，以实现自蒸馏。实验表明，DIAS 在对象发现和识别等 OCL 任务上实现了最先进的性能，同时也提高了高级视觉预测和推理能力。我们的源代码和模型检查点已在 https://github.com/Genera1Z/DIAS 上提供。