期望值的方差归约：带扩散教师
机器学习
2026-05-25 v2 人工智能
计算机视觉与模式识别
统计计算
机器学习
摘要
预训练的扩散模型作为冻结教师馈送下游管道，如文本到 3D、单步蒸馏和数据归因。这些管道消耗的教师梯度是噪声水平和高斯噪声样本上的蒙特卡罗（MC）期望；其估计器方差支配计算成本，因为每一次抽样都需要昂贵的上游工作（渲染、仿真、编码）。我们引入 CARV，一个面向计算的方差计量框架，提出层次化 MC 估计器：对昂贵的上游计算进行 amortization，覆盖廉价的扩散噪声重抽样，由时间步重要抽样和分层-逆CDF 构建锐化。在文本到 3D 蒸馏和归因实验中，CARV 实现了 2-3 倍的有效计算乘子（大部分来自 amortization 重用；约 25% 额外来自重要抽样和分层），而不会改变目标；在单步蒸馏中，相同技术将梯度方差降低一个数量级，但不会改善下游 FID，标志着 MC 方差不再是瓶颈的场景。
引用
@article{arxiv.2605.21489,
title = {Variance Reduction for Expectations with Diffusion Teachers},
author = {Jesse Bettencourt and Xindi Wu and Matan Atzmon and James Lucas and Jonathan Lorraine},
journal= {arXiv preprint arXiv:2605.21489},
year = {2026}
}
备注
Project page: https://research.nvidia.com/labs/sil/projects/CARV/