流匹配模型的 Bellman 最优步长拉直
计算机视觉与模式识别
2024-02-21 v3 机器学习
摘要
流匹配是一个强大的框架,可用于在各种应用中生成高质量样本,尤其是图像合成。然而,这些模型密集的计算需求,特别是在微调和采样过程中,对低资源场景构成了重大挑战。本文介绍了用于蒸馏流匹配生成模型的 Bellman 最优步长拉直(BOSS)技术:它专门旨在在遵守计算预算约束的同时实现少步长高效图像采样。首先,该技术涉及一种动态规划算法,用于优化预训练网络的步长。然后,它细化速度网络以匹配最优步长,旨在拉直生成路径。跨图像生成任务的广泛实验评估证明了 BOSS 在资源利用和图像质量方面的有效性。我们的结果表明,BOSS 在保持具有竞争力的样本质量的同时实现了显著的效率提升,有效地弥合了低资源约束与流匹配生成模型的高要求之间的差距。我们的论文还加强了人工智能的负责任发展,提供了一种更具可持续性的生成模型,降低了计算成本和环境足迹。我们的代码可在 https://github.com/nguyenngocbaocmt02/BOSS 找到。
引用
@article{arxiv.2312.16414,
title = {Bellman Optimal Stepsize Straightening of Flow-Matching Models},
author = {Bao Nguyen and Binh Nguyen and Viet Anh Nguyen},
journal= {arXiv preprint arXiv:2312.16414},
year = {2024}
}
备注
21 pages, 14 figures