面向对象中心学习的简化先验
计算机视觉与模式识别
2024-10-02 v1 机器学习
摘要
人类在抽象数据并构建可重用概念方面卓越而在当前持续学习系统中缺乏此能力。对象中心学习领域致力于开发无需人工监督从数据中提取抽象表征(即插槽)。针对图像,已提出多种方法来解决此任务,但大多数方法过于复杂、不可微或规模不佳。本文引入一种概念简单、全可微、非迭代且可扩展的方法,称为 SAMP(Simplified Slot Attention with Max Pool Priors)。该方法仅使用卷积层和最大池化层以及注意力层即可实现。我们使用卷积神经网络对输入图像进行编码,然后通过交替卷积和最大池化层的分支来创建专门的子网络并提取原始插槽。这些原始插槽随后用作简化 Slot Attention 查询,对编码后的图像进行处理。尽管方法简单,我们的方法在标准基准测试中表现出竞争力甚至优于先前方法。
引用
@article{arxiv.2410.00728,
title = {Simplified priors for Object-Centric Learning},
author = {Vihang Patil and Andreas Radler and Daniel Klotz and Sepp Hochreiter},
journal= {arXiv preprint arXiv:2410.00728},
year = {2024}
}