用于有损压缩的通用率失真-分类表示理论
信息论
2025-04-15 v1 math.IT
摘要
在有损压缩中,Blau 和 Michaeli [5] 引入信息率失真感知(RDP)函数,将传统率失真理论扩展到感知质量方面。最近,该框架通过定义率失真感知分类(RDPC)函数而得到扩展,将多任务学习整合进来,使其能够在感知质量和分类准确性方面进行联合优化,同时也优化重构任务 [28]。针对此概念,受 [34] 中引入的通用 RDP 编码器启发,我们研究能够通过单个固定编码器结合多个解码器实现多样化失真-分类权衡的通用表示。具体而言,理论分析和数值实验表明,对于在均方误差(MSE)失真下的数据源,一个通用编码器即可实现整个失真-分类权衡区域。此外,本文概括了一般源分布下固定通用表示可实现的失真-分类区域,确定了在不同权衡点之间重用编码器时确保最小失真惩罚的条件。使用 MNIST 和 SVHN 数据集的实验结果验证了我们的理论见解,表明通用编码器可以在损失性能上与任务特定编码器相当,从而支持我们提出的通用表示的实用性和有效性。
引用
@article{arxiv.2504.09932,
title = {A Theory of Universal Rate-Distortion-Classification Representations for Lossy Compression},
author = {Nam Nguyen and Thinh Nguyen and Bella Bose},
journal= {arXiv preprint arXiv:2504.09932},
year = {2025}
}