失真约束优化的有损压缩

在训练端到端的有损压缩学习模型时, 必须平衡码率和失真损失。这通常通过手动设置一个权衡参数 $\beta$ 来完成, 这种方法被称为 $\beta$-VAE。使用这种方法很难设定特定的码率或失真值, 因为结果可能对 $\beta$ 非常敏感, 且 $\beta$ 的合适取值取决于模型和问题设置。因此, 模型比较需要对每个模型进行大量的 $\beta$ 调参, 并为每个待比较的模型生成完整的率失真曲线 (通过改变 $\beta$)。我们论证了 Rezende and Viola, 2018 的约束优化方法更适合用于训练有损压缩模型, 因为它允许我们在失真约束下获得尽可能好的码率。这使得我们可以通过训练两个具有相同失真目标的模型并比较它们的码率来进行逐点模型比较。我们表明, 在一个真实的图像压缩任务中, 该方法确实能够满足约束条件, 优于基于 hinge-loss 的约束优化方法, 并且在模型选择上比 $\beta$-VAE 更实用。