变长嵌入
计算机视觉与模式识别
2023-05-18 v1 机器学习
摘要
本工作中，我们引入一种新颖的深度学习架构——变长嵌入（VLEs），一种能够生成由任意数量 token 组成的潜表示的自回归模型。作为概念验证，我们在涉及重建与图像分解的任务上展示了 VLEs 的能力。我们在 iNaturalist 与 ImageNet 数据集的混合上评估实验，发现 VLEs 以不到十分之一参数量取得了与最先进 VAE 相当的重建结果。
引用
@article{arxiv.2305.09967,
title = {Variable Length Embeddings},
author = {Johnathan Chiu and Andi Gu and Matt Zhou},
journal= {arXiv preprint arXiv:2305.09967},
year = {2023}
}