基于相对熵编码的数据压缩
计算机视觉与模式识别
2025-06-23 v1 人工智能
图像与视频处理
摘要
过去几年里，机器学习解锁了先前不可实现的压缩特性，例如为用户提供隐私保证或针对特定数据统计（例如卫星图像或动物音频记录）或用户的感官质量进行定制化压缩。这导致了一系列理论调查和见解，旨在开发更适合机器学习压缩器的新型基本理论、方法和算法。本论文通过研究相对熵编码，贡献于这一趋势。具体而言，相对熵编码处理的是高效地传递不确定或随机化信息的框架。其关键优势之一是将压缩方法扩展到连续空间，从而比经典基于量化的方法更顺畅地集成到现代机器学习管道中。此外，相对熵编码是 developing 高级压缩方法的自然基础，这些方法可实现隐私保护或考虑重构数据的感知质量。本论文在三个概念层面上考察相对熵编码：在介绍框架基础后，(1) 我证明了提供相对熵编码通信和计算效率的 maximally tight fundamental limits 的结果；(2) 我利用泊松点过程理论开发和分析新的相对熵编码算法，其性能达到理论最优值；(3) 我通过将其应用于图像、音频、视频和蛋白质数据压缩，使用称为贝叶斯隐式神经表征的小型高效概率神经网络，展示了相对熵编码的强大实际性能。
引用
@article{arxiv.2506.16307,
title = {Learning Multi-scale Spatial-frequency Features for Image Denoising},
author = {Xu Zhao and Chen Zhao and Xiantao Hu and Hongliang Zhang and Ying Tai and Jian Yang},
journal= {arXiv preprint arXiv:2506.16307},
year = {2025}
}