GUDA：基于忘却的扩散模型计数组训练数据归因
机器学习
2026-02-02 v1 人工智能
摘要
训练数据归因旨在识别给定输出受哪些训练数据的影响。虽然大多数方法对单个样本进行评分，但实践者常需获得组层面的答案（例如，艺术风格或对象类别）。组级归因具有反事实性：如果一组被从训练中移除，模型在生成样本上的行为会如何改变？一种自然的实现是Leave-One-Group-Out（LOGO）重新训练，需移除每个组后重新训练模型；但随着组数的增加，计算成本变得不可接受。我们提出GUDA（Group Unlearning-based Data Attribution），用于扩散模型，通过对共享完整数据模型应用机器忘却来近似每个反事实模型，而非从头训练。GUDA利用完整模型与每个忘却模型之间基于似然的评分规则（ELBO）之差来量化组的影响。在CIFAR-10和艺术风格归因实验中使用Stable Diffusion，结果表明GUDA比语义相似性、梯度基归因和实例级忘却方法更可靠地识别主要贡献组，同时在CIFAR-10上相较于LOGO重新训练实现约100倍加速。
引用
@article{arxiv.2601.22651,
title = {GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning},
author = {Naoki Murata and Yuhta Takida and Chieh-Hsin Lai and Toshimitsu Uesaka and Bac Nguyen and Stefano Ermon and Yuki Mitsufuji},
journal= {arXiv preprint arXiv:2601.22651},
year = {2026}
}