ArcVQ-VAE:基于弧余弦增量间隔的球面向量量化框架
计算机视觉与模式识别
2026-05-28 v2 人工智能
机器学习
摘要
向量量化变分自编码器 (VQ-VAE) 已成为图像建模中学习离散表示的基本框架。然而,VQ-VAE 模型必须使用有限码本向量集对整个图像进行标记化,这种容量限制限制了其捕获丰富且多样化表示的能力。本文提出弧余弦增量间隔 VQ-VAE (ArcVQ-VAE),一种新的向量量化框架,引入球面角度间隔先验 (SAMP) 用于常规 VQ-VAE 的码本。所提 SAMP 包括球限定范数正则化,其约束所有码本向量位于随时间变化的欧几里得球内,以及弧余弦增量间隔损失,其鼓励潜在向量之间更大的角度可分离性。这种表述促进了受约束空间内更具辨识度和均匀分布的潜在表示,从而提高了有效潜在空间覆盖范围并导致更好的码本利用率。在标准图像重建和生成任务上的实验结果表明,ArcVQ-VAE 在重建准确率、表示多样性和样本质量方面均表现出竞争性能。代码已提供:https://github.com/goals4292/ArcVQ-VAE
引用
@article{arxiv.2605.13517,
title = {ArcVQ-VAE: A Spherical Vector Quantization Framework with ArcCosine Additive Margin},
author = {Jaeyung Kim and YoungJoon Yoo},
journal= {arXiv preprint arXiv:2605.13517},
year = {2026}
}
备注
To appear in Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)