一致性模型的自适应离散化
机器学习
2025-10-21 v1 机器学习
摘要
一致性模型(Consistency Models, CMs)在高效单步生成方面显示出前景。然而，大多数现有CMs依赖手动设计的离散化方案，这会导致针对不同噪声计划和数据集进行重复调整。为此，我们提出了一个用于CMs自动和自适应离散化的统一框架，将其形式化为关于离散化步骤的优化问题。具体而言，在一致性训练过程中，我们提出以局部一致性作为优化目标，通过避免过度离散化来确保可训练性，并以全局一致性作为约束来控制训练目标中的去噪误差以确保稳定性。我们通过拉格朗日乘子建立局部一致性与全局一致性之间的权衡。基于该框架，我们使用高斯-牛顿法实现了CMs的自适应离散化。我们将方法称为ADCMs。实验表明，ADCMs显著提高了CMs的训练效率，在CIFAR-10和ImageNet上实现了最高的生成性能。此外，ADCMs对更先进的DM变体具有很强的适应性。代码已公开于https://github.com/rainstonee/ADCM。
引用
@article{arxiv.2510.17266,
title = {Adaptive Discretization for Consistency Models},
author = {Jiayu Bai and Zhanbo Feng and Zhijie Deng and Tianqi Hou and Robert C. Qiu and Zenan Ling},
journal= {arXiv preprint arXiv:2510.17266},
year = {2025}
}
备注
Accepted by NeurIPS 2025