面向扩散模型忘卸的统一框架：基于 f-divergence

大多数现有方法用于文本到图像扩散模型中的概念忘卸，都通过最小化以目标概念和锚点概念为条件下去噪器输出之间的均方误差 (MSE) 损失，这在数学上等价于两个高斯分布之间的 KL 散度。我们将该目标推广到任意 $f$-divergence，恢复 MSE 作为 KL 的特定实例，并识别出一族 $\alpha$-divergences，其高斯闭式解产生类似 MSE 的低成本训练目标。对于剩余的 $f$-divergences，我们提供基于 $f$-divergence 变分表述的 min-max 目标。我们对不同 $f$-divergences 对梯度大小和算法收敛性的影响进行了理论分析和数值验证，从而影响忘卸质量。例如，我们观察到 Hellinger 闭式实例在多数情景下均一致优于 MSE。更一般地，所提出的统一框架提供了一种灵活的范式，允许根据应用和用户目标选择最佳 divergence，从而实现忘卸有效性与生成保真度之间的更细粒度的权衡。