用于对象发现的复值自编码器对比训练
机器学习
2023-11-10 v3 人工智能
计算机视觉与模式识别
摘要
当前最先进的以对象为中心的模型使用槽(slots)和基于注意力的路由进行绑定。然而,这类模型存在若干概念性局限:槽的数量被硬性设定;所有槽具有相等容量;训练计算成本高;槽内无对象级关系因子。基于同步的模型原则上可通过使用复值激活(将绑定信息存于其相位分量中)来解决这些局限。然而,此类基于同步的模型的可行实例直至最近才被开发出来,且仍局限于玩具级灰度数据集,实践中同时存储对象少于三个。本文引入架构修改与一种新颖的对比学习方法,大幅改进了最先进的基于同步的模型。我们首次获得一类能够在多对象彩色数据集中以无监督方式发现对象、并同时表示三个以上对象的基于同步的模型。
引用
@article{arxiv.2305.15001,
title = {Contrastive Training of Complex-Valued Autoencoders for Object Discovery},
author = {Aleksandar Stanić and Anand Gopalakrishnan and Kazuki Irie and Jürgen Schmidhuber},
journal= {arXiv preprint arXiv:2305.15001},
year = {2023}
}
备注
accepted to NeurIPS 2023