PromptTea：让提示词决定TeaCache的最优阈值
计算机视觉与模式识别
2025-07-10 v1
摘要
尽管近期在视频生成方面取得了进展，但推理速度仍是主要瓶颈。常见的加速策略是在固定间隔处通过缓存机制重用模型输出。然而，我们发现固定频率的重用在复杂场景中会显著降低质量，而手动调节重用阈值又不够高效且缺乏鲁棒性。为此，我们提出基于提示复杂度的（PCA）缓存方法，该方法根据从输入提示直接估计的场景复杂度自动调整重用阈值。通过纳入提示派生的语义线索，PCA实现了比传统缓存方法更具适应性和信息化的重用决策。我们也重新审视了TeaCache背后的假设，发现其关键局限性在于由于过于简化的先验，输入输出关系建模不足。为克服这一问题，我们解耦噪声输入，增强有意义文本信息的贡献，并通过多变量多项式特征扩展提高了模型的预测精度。为了进一步降低计算成本，我们用DynCFGCache取代静态CFGCache，后者是一种基于估计输出变化情况选择性重用无分类器引导（CFG）输出的动态机制。这使得在不牺牲输出质量的前提下实现更灵活的重用。广泛的实验表明，我们的方法在 various 场景下实现了显著的加速——例如，在Wan2.1模型上实现2.79倍的加速——同时保持高水平的视觉保真度。
引用
@article{arxiv.2507.06739,
title = {PromptTea: Let Prompts Tell TeaCache the Optimal Threshold},
author = {Zishen Huang and Chunyu Yang and Mengyuan Ren},
journal= {arXiv preprint arXiv:2507.06739},
year = {2025}
}