前瞻漂移模型
机器学习
2026-05-07 v1 人工智能
计算机视觉与模式识别
摘要
最近提出了一种名为 \emph{drifting model} 的新范式，用于映射分布，通过一次神经函数评估（NFE）实现 ImageNet 上的 SOTA 图像生成性能。其基本思想是在每个训练迭代中计算漂移项，然后将模型的输出推向漂移项的方向。在本文中，我们提出了 \emph{lookahead drifting model}。在每个训练迭代中，我们依次计算一组漂移项。每个漂移项都利用先前计算的漂移项以及正样本和模型的输出来计算。%一个关键步骤是正确地缩放漂移项，使其幅度在可比较的范围内。原则上，后期阶段获得的漂移项捕获了对正样本的更高阶梯度信息。在每个训练迭代中，通过将模型的输出推向（加权）漂移项之和来优化模型。在 toy 示例和 CIFAR10 上的实验结果表明，新方法优于基线方法。
引用
@article{arxiv.2605.04060,
title = {Lookahead Drifting Model},
author = {Guoqiang Zhang and Kenta Niwa and W. Bastiaan Kleijn},
journal= {arXiv preprint arXiv:2605.04060},
year = {2026}
}