通过查询优化改进以对象为中心的学习

将复杂自然场景分解为有意义的以对象为中心的抽象，是人类感知与推理的核心。在近期无监督以对象为中心学习的成果中，Slot-Attention模块以其简单而有效的设计发挥了重要作用，并催生了许多强大的变体。然而，这些方法在没有监督的情况下极难训练，且对对象的概念模糊，尤其对于复杂自然场景。在本文中，我们提出通过研究可学习查询作为Slot-Attention学习的初始化潜力来解决这些问题，将其与现有通过双层优化改进Slot-Attention学习的努力相统一。通过对Slot-Attention的简单代码调整，我们的模型——双层优化查询槽注意力（Bi-level Optimized Query Slot Attention），在无监督图像分割与重建的3个具挑战性合成数据集和7个复杂真实世界数据集上取得了最先进结果，大幅优于先前基线。我们提供了详尽的消融研究以验证我们设计的必要性与有效性。此外，我们的模型在概念绑定与零样本学习中展现出巨大潜力。我们的工作已在 https://bo-qsa.github.io 公开。