多速率 VAE：一次训练，获得完整率失真曲线

变分自编码器（VAEs）是用于学习数据潜在表示的强大工具，广泛应用于各类任务。在实践中，VAEs 通常需要多轮训练来选择潜在变量应保留的信息量。这种重建误差（失真）与 KL 散度（率）之间的权衡通常由超参数 $\beta$ 参数化。本文提出多速率 VAE（MR-VAE），一种计算高效的框架，可在单次训练中得到对应于不同 $\beta$ 的最优参数。其核心思想是利用超网络显式构造一个将 $\beta$ 映射到最优参数的响应函数。MR-VAE 构建了一个紧凑的响应超网络，其中预激活根据 $\beta$ 进行条件门控。我们通过分析线性 VAE 并证明其能精确表示线性 VAE 的响应函数，从而论证了所提架构的合理性。借助学习到的超网络，MR-VAE 无需额外训练即可构建率失真曲线，并且能以显著更少的超参数调优进行部署。实证表明，我们的方法具有竞争力，且常以极低的计算与内存开销超越多个 $\beta$-VAE 分别训练的性能。