Buster：将语义后门植入文本编码器以缓解NSFW内容生成
计算机视觉与模式识别
2025-01-14 v2 人工智能
机器学习
摘要
深度学习模型在数字时代的兴起引发了对不安全内容（NSFW）生成的大量担忧。现有的防御方法主要涉及模型微调和事后内容审核。然而，这些方法在消除有害内容方面缺乏可扩展性，会降低良性图像生成的质量，或产生较高的推理成本。为应对这些挑战，我们提出了一种名为Buster的创新框架，通过将后门植入文本编码器来防止NSFW内容的生成。Buster利用深度语义信息而非显式提示作为触发器，将NSFW提示重定向至目标良性提示。此外，Buster采用基于Langevin动力学的能量基训练数据生成进行对抗知识增强，从而确保有害概念定义的鲁棒性。该方法在缓解NSFW内容方面表现出卓越的鲁棒性和可扩展性。特别是，Buster仅需五分钟即可完成对文本到图像模型文本编码器的微调，展现了其高效性。我们的大量实验表明，Buster超越了九种最先进基线，在保持无害图像质量的同时实现了至少91.2%的NSFW内容移除率。
引用
@article{arxiv.2412.07249,
title = {Buster: Implanting Semantic Backdoor into Text Encoder to Mitigate NSFW Content Generation},
author = {Xin Zhao and Xiaojun Chen and Yuexin Xuan and Zhendong Zhao and Xiaojun Jia and Xinfeng Li and Xiaofeng Wang},
journal= {arXiv preprint arXiv:2412.07249},
year = {2025}
}