视觉解缠扩散自编码器：面向基础模型的可扩展反事实生成
机器学习
2026-05-07 v2
摘要
尽管基础模型在零样态能力方面表现稳健，但仍易受到伪相关和“智力巨人”策略的威胁。现有缓解方法往往依赖不可得的组标签或计算昂贵的梯度对抗优化。为此，我们提出视觉解缠扩散自编码器（DiDAE），这是一种新型框架，将冻结的基础模型与解缠字典学习相结合，实现对基础模型的高效、无梯度反事实生成。DiDAE 首先编辑基础模型嵌入在解缠字典中可解释的解缠方向，然后通过扩散自编码器进行解码。这使得为每个事实生成多个多样且解缠的反事实对象成为可能，速度远快于现有基线方法——后者仅生成单个缠结反事实对象。搭配反事实知识蒸馏（DiDAE-CFKD），DiDAE 在缓解捷径学习方面实现了最先进的性能，提升了在不平衡数据集上的下游性能。
引用
@article{arxiv.2601.21851,
title = {Visual Disentangled Diffusion Autoencoders: Scalable Counterfactual Generation for Foundation Models},
author = {Sidney Bender and Marco Morik},
journal= {arXiv preprint arXiv:2601.21851},
year = {2026}
}