EMAG：基于指数移动平均引导的自纠正扩散采样
计算机视觉与模式识别
2025-12-22 v1
摘要
在扩散和流匹配生成模型中，引导技术广泛用于提高样本质量和一致性。分类器自由引导（CFG）是现代系统的事实选择，通过对比条件和无条件样本来实现这一目标。最近的工作探索了使用较弱模型对推理时的负样本进行对比，采用强/弱模型对、基于注意力的掩码、随机块丢弃或对自注意力能量景观的扰动。虽然这些策略改进了生成质量，但仍缺乏对负样本粒度或难度的可靠控制，且目标层选择往往是固定的。我们提出指数移动平均引导（EMAG），一种在扩散变换器推理时修改注意力的训练-free机制，采用基于统计的自适应层选择规则。不同于先前方法，EMAG产生更硬、在语义上忠实的负样本（细粒度退化），揭示困难的失败模式，使去噪器能够精细地修复细微瑕疵，以+0.46的提升幅度提高质量和人类偏好得分（HPS）。我们进一步展示了EMAG天然地与高级引导技术（如APG和CADS）相组合，进一步提升HPS。
引用
@article{arxiv.2512.17303,
title = {EMAG: Self-Rectifying Diffusion Sampling with Exponential Moving Average Guidance},
author = {Ankit Yadav and Ta Duc Huy and Lingqiao Liu},
journal= {arXiv preprint arXiv:2512.17303},
year = {2025}
}
备注
26 pages