面向文本到图像扩散模型的持续无学习：正则化视角

机器无学习——从预训练模型中移除指定概念的能力——近期rapidly advancing，尤其是针对文本到图像扩散模型。然而，现有方法通常假设无学习请求一次性到达，而实际情况往往是顺序到达。我们首次系统性研究文本到图像扩散模型中的持续无学习，表明流行的无学习方法在实用性崩溃：仅经过几次请求，模型就忘记保留的知识并生成质量下降的图像。我们追溯这一失败到预训练权重的累积参数漂移，认为正则化是关键解决方案。为此，我们研究了一套添加型正则化器，(1) 缓解漂移，(2) 与现有无学习方法兼容。除了通用正则化器，我们表明语义感知是关键，能够保留靠近无学习目标的概念，提出一种梯度投影方法约束参数漂移垂直于其子空间。这在持续无学习性能上产生显著提升，并与其他正则化器互补可获得额外收益。总体而言，我们的研究将持续无学习确立为文本生成中的根本性挑战，并提供洞见、基准方法和开放方向，以推动安全可责任的生成式 AI。