RODS：基于鲁棒优化的扩散采样方法用于检测与降低生成模型中的幻觉
计算机视觉与模式识别
2025-10-22 v2 最优化与控制
摘要
扩散模型在生成建模中取得了最新的性能，但其采样过程仍然容易受到幻觉的威胁——这种幻觉往往源于评分近似值的不准确。在本工作中，我们通过优化视角重新诠释扩散采样，引入RODS（鲁棒优化启发的扩散采样器），一种新方法，通过捕捉损失景观中的几何线索来检测和纠正高风险采样步骤。RODS强制采样轨迹更平滑，并自适应地调整扰动，从而在无需重新训练且额外推理成本最小化的情况下降低幻觉。在AFHQv2、FFHQ和11k-hands上的实验表明，RODS在保持相当图像质量和保留生成多样性方面表现良好。更重要的是，它改进了采样保真度和鲁棒性，检测了超过70%的幻觉样本并纠正了超过25%的样本，同时避免引入新的人工物。我们将在https://github.com/Yiqi-Verna-Tian/RODS上发布代码。
引用
@article{arxiv.2507.12201,
title = {RODS: Robust Optimization Inspired Diffusion Sampling for Detecting and Reducing Hallucination in Generative Models},
author = {Yiqi Tian and Pengfei Jin and Mingze Yuan and Na Li and Bo Zeng and Quanzheng Li},
journal= {arXiv preprint arXiv:2507.12201},
year = {2025}
}