基于现代Hopfield动力学的几何感知注意力引导扩散模型
机器学习
2026-05-19 v2 人工智能
摘要
分类器自由引导(CFG)虽能提高扩散模型的样本质量，但其双向推理过程及对空条件训练的依赖限制了其在少步模式下的应用。注意力空间引导已然成为一种补充范式，然而稀疏-稠密注意力引导的工作原理仍鲜为人知。我们通过分析注意力外推中的现代Hopfield动力学，证明了在共享条件下，稀疏-稠密差异的两个方向性属性，共同构成了其作为方向一致加速度信号的认证依据。基于此，我们提出了几何感知注意力引导(GAG)，一种无需训练的即插即用外推规则，将差异分解为相对于检索方向的平行分量和正交分量，放大与收敛一致的分量，抑制离流形噪声；稳定性源于弱收缩性。我们进一步将该外推解释为注意力空间中的一阶安德森加速，提供了对注意力外推方法的统一视角。GAG是一种通用方法，能够跨越架构(UNet, MMDiT)和采样模式(多步、少步)进行推广，在多样化的 backbone 上 consistently improve generation quality，包括 FLUX.1、最新的 FLUX.2 以及 Qwen-Image，同时几乎没有额外的计算开销。
关键词
引用
@article{arxiv.2603.02531,
title = {Geometry-Aware Attention Guidance for Diffusion Models via Modern Hopfield Dynamics},
author = {Kwanyoung Kim},
journal= {arXiv preprint arXiv:2603.02531},
year = {2026}
}