中文

基于普遍量化扩散模型的渐进压缩

机器学习 2024-12-30 v2 计算机视觉与模式识别

摘要

扩散概率模型在众多生成建模任务中取得了主流成功,从图像生成到逆问题求解。这些模型的一个独特特征是它们对应于深层层次潜在变量模型,对数据似然的变分证据下界(ELBO)进行优化。drawing on a basic connection between likelihood modeling and compression,我们探索了扩散模型用于渐进式编码的潜力, resulting in a sequence of bits that can be incrementally transmitted and decoded with progressively improving reconstruction quality. 不同于基于高斯扩散或条件扩散模型的先前工作,我们提出了一种新的扩散模型,其中前向过程使用均匀噪声,其负ELBO对应于使用普遍量化的端到端压缩成本。我们在图像压缩上取得了有前景的初始结果,通过单一模型在广泛比特率范围内实现了具有竞争力的速率-失真和速率-真实性结果,使神经编解码器离实用部署迈进了一步。

关键词

引用

@article{arxiv.2412.10935,
  title  = {Progressive Compression with Universally Quantized Diffusion Models},
  author = {Yibo Yang and Justus C. Will and Stephan Mandt},
  journal= {arXiv preprint arXiv:2412.10935},
  year   = {2024}
}

备注

20 pages, 10 figures