面向DDPMs和VAEs的自适应lambda减去重要抽样得分

机器删除对于大型生成模型（VAEs、DDPMs）至关重要，以遵循'被遗忘权利'并防止无需昂贵重训练的意外内容生成。现有方法（如扩散模型的静态lambda SISS）依赖固定的混合权重lambda，这种做法不理想，因为所需的删除强度在不同样本和训练阶段会有所不同。我们提出了自适应lambda SISS，这是一种原则性的扩展，将lambda转化为在每个训练步骤中动态推断的隐变量。一个轻量级推断网络对lambda的自适应后验进行参数化，条件于从当前SISS损失项（保留/删除损失及其梯度）中派生的上下文特征。这使我们能够通过变分目标进行联合优化扩散模型和lambda推断机制，从而实现显著更好的权衡。我们进一步将自适应lambda原则扩展到基于得分的删除方法，并引入了得分忘记蒸馏的多类别变体。此外，我们提出了两个新方向：（i）一种结合得分忘记蒸馏的数据自由效率与SISS直接梯度控制的混合目标，以及（ii）将删除建模为顺序决策过程的强化学习方法，在由模型当前记忆中被遗忘集合构成的状态空间上学习最优策略。在增强MNIST基准上的实验表明，自适应lambda SISS在删除被遗忘类别方面显著优于原始静态lambda SISS，同时在保留集上更好地保持生成质量。