让特征自行决定其求解器：扩散变压器的混合特征缓存
计算工程、金融与科学
2025-12-09 v1 人工智能
摘要
扩散变压器在图像和视频合成方面提供了最先进的保真度，但其迭代采样过程仍是一个主要瓶颈 due to each timestep的变压器前向传递的高成本。为缓解这一问题，特征缓存已作为一种无需训练的加速技术出现，该技术复用或预测隐藏表示。然而，现有方法常对所有特征维度应用统一的缓存策略，忽略其异构的动态行为。因此，我们采用一种新视角，将隐藏特征演化建模为跨维度的ODE混合物，引入HyCa，这是一种受混合ODE求解器启发的缓存框架，应用于维度级的缓存策略。HyCa在各种领域和模型中实现接近无损的加速，包括FLUX上实现5.55倍加速，HunyuanVideo上实现5.56倍加速，Qwen-Image和Qwen-Image-Edit上实现6.24倍加速，无需重新训练。
引用
@article{arxiv.2510.04187,
title = {A Complement to Neural Networks for Anisotropic Inelasticity at Finite Strains},
author = {Hagen Holthusen and Ellen Kuhl},
journal= {arXiv preprint arXiv:2510.04187},
year = {2025}
}
备注
40 pages, 19 figures