RECOMBINER:基于贝叶斯隐式神经表示的鲁棒增强压缩
机器学习
2024-03-08 v2
摘要
基于贝叶斯隐式神经表示(COMBINER)的压缩是一种近期的数据压缩方法,它解决了先前基于隐式神经表示(INR)方法的一个关键低效问题:它避免量化并可直接优化率失真性能。然而,COMBINER 仍有显著局限:1) 其使用的分解先验与后验近似缺乏灵活性;2) 无法有效适应数据中全局模式之外的局部偏差;3) 其性能可能易受建模选择及变分参数初始化影响。我们提出的方法——鲁棒增强型 COMBINER(RECOMBINER)通过以下方式解决这些问题:1) 在保持低计算成本的前提下,通过对 INR 权重进行线性重参数化来丰富变分近似;2) 为 INR 增加可学习位置编码以使其适应局部细节;3) 将高分辨率数据分块以提升鲁棒性,并利用具表现力的层次化先验捕捉块间依赖。我们在多种数据模态上进行了广泛实验,表明 RECOMBINER 与最佳 INR 基方法取得有竞争力的结果,并在低分辨率图像低码率下优于基于自编码器的编解码器。我们的 PyTorch 实现见 https://github.com/cambridge-mlg/RECOMBINER/。
引用
@article{arxiv.2309.17182,
title = {RECOMBINER: Robust and Enhanced Compression with Bayesian Implicit Neural Representations},
author = {Jiajun He and Gergely Flamich and Zongyu Guo and José Miguel Hernández-Lobato},
journal= {arXiv preprint arXiv:2309.17182},
year = {2024}
}
备注
ICLR 2024 camera-ready version; 27 pages, 17 figures