中文

HyperAlign:用于扩散模型高效测试时对齐的超网络

计算机视觉与模式识别 2026-04-01 v2

摘要

扩散模型对齐旨在通过增强与文本提示的语义一致性以及整体视觉质量,弥合生成输出与人类偏好之间的差距。现有的对齐方法面临一个具有挑战性的权衡:测试时方法能够实现输入特定的适应性,但会引入显著的计算开销并倾向于优化不足,而微调方法则面临奖励过度优化和生成多样性丧失的风险。为了弥合这一差距,我们提出了HyperAlign,一个训练超网络以实现高效且有效的测试时对齐的框架。HyperAlign不直接修改潜在状态,而是动态生成输入和状态条件化的低秩适应权重,以调节去噪轨迹朝向目标奖励。我们引入了多种不同粒度的HyperAlign变体,以平衡对齐质量和计算效率。超网络通过由偏好数据正则化的奖励目标进行优化,以减轻奖励破解。我们在包括Stable Diffusion和FLUX在内的多种生成范式中评估了HyperAlign,它在语义一致性和视觉质量方面显著优于现有的对齐方法。

关键词

引用

@article{arxiv.2601.15968,
  title  = {HyperAlign: Hypernetwork for Efficient Test-Time Alignment of Diffusion Models},
  author = {Xin Xie and Jiaxian Guo and Dong Gong},
  journal= {arXiv preprint arXiv:2601.15968},
  year   = {2026}
}