EraseFlow：通过 GFlowNet 驱动的概念抹除策略学习

Abhiram Kusumba; Maitreya Patel; Kyle Min; Changhoon Kim; Chitta Baral; Yezhou Yang

EraseFlow：通过 GFlowNet 驱动的概念抹除策略学习

机器学习 2025-11-11 v3 计算机视觉与模式识别

作者: Abhiram Kusumba , Maitreya Patel , Kyle Min , Changhoon Kim , Chitta Baral , Yezhou Yang

摘要

从强大的文本到图像生成器中擦除有害或专有概念的"概念抹除"技术已成为 emerging safety requirement，但现有技术要么导致图像质量下降，要么依赖脆弱的对抗损失，要么需要昂贵的重新训练循环。我们追溯到这些限制的根源在于对主导基于扩散生成的去噪轨迹的片面看法。我们引入 EraseFlow，首个将概念忘却建模为去噪路径空间中探索的框架，并使用配备轨迹平衡目标的 GFlowNets 进行优化。通过对整个轨迹进行采样而非仅采样单个最终状态，EraseFlow 学习了一种随机策略，引导生成远离目标概念，同时保持模型的先验。EraseFlow 消除了对精心设计奖励模型的需求，从而能够有效泛化到未见概念，避免易受攻击的奖励，同时提升性能。大量实证结果表明，EraseFlow 超越了现有基线，实现了性能与先验保持之间的最佳权衡。

关键词

概念抹除 GFlowNet 扩散模型轨迹优化安全性

引用

@article{arxiv.2511.00804,
  title  = {EraseFlow: Learning Concept Erasure Policies via GFlowNet-Driven Alignment},
  author = {Abhiram Kusumba and Maitreya Patel and Kyle Min and Changhoon Kim and Chitta Baral and Yezhou Yang},
  journal= {arXiv preprint arXiv:2511.00804},
  year   = {2025}
}

备注

NeurIPS'25 Spotlight | Project page: https://eraseflow.github.io/

EraseFlow：通过 GFlowNet 驱动的概念抹除策略学习

摘要

关键词

引用

备注

相关论文