通过协方差正则化探究基于槽的模型中瓶颈的作用
计算机视觉与模式识别
2023-06-06 v1 人工智能
机器学习
摘要
在本项目中，我们试图使具有图像重建目标的基于槽的模型在真实世界数据集上可与使用特征重建目标的模型相竞争。我们提出了一种基于损失的方法来约束基于槽的模型的瓶颈，从而允许使用更大容量的编码器网络与 Slot Attention 配合而不产生退化的条状掩码。我们发现所提方法相较基线 Slot Attention 模型有所改进，但在 COCO2017 数据集上未达到 \dinosaur 的性能。在整个项目中，我们确认了特征重建目标相对于图像重建目标的优越性，并探究了基于槽的模型中架构瓶颈的作用。
引用
@article{arxiv.2306.02577,
title = {Exploring the Role of the Bottleneck in Slot-Based Models Through Covariance Regularization},
author = {Andrew Stange and Robert Lo and Abishek Sridhar and Kousik Rajesh},
journal= {arXiv preprint arXiv:2306.02577},
year = {2023}
}
备注
14 pages, 10 figures