面向无损图像压缩的内容自适应学习：CALLIC

无损图像压缩已取得显著进展。然而，现有方法常依赖在大规模数据集上训练的保形生成模型，导致在编码过程中对特定测试图像的概率分布估计次优。为此，我们探索了最小描述长度（MDL）原理与参数高效迁移学习（PETL）之间的联系，发展出一种 novel 内容自适应方法用于无损图像压缩，称为 CALLIC。具体而言，我们首先提出一种内容感知自回归注意力机制，利用卷积门控操作，称为掩码门控卷积 Transformer（Masked Gated ConvFormer, MGCF），并在训练数据集上预训练 MGCF。随后提出缓存后裁切推理（Cache then Crop Inference, CCI）以加速编码过程。在编码时，我们将预训练的层（包括深度卷积）使用低秩矩阵分解，然后通过率导向渐进微调（Rate-guided Progressive Fine-Tuning, RPFT）对测试图像进行增量权重适配。RPFT 采用按估计熵降序排列的逐渐增大的 patch 进行微调，优化学习过程并减少适应时间。广泛的实验表明，CALLIC 在无损图像压缩方面达到了新的状态（SOTA）。