通过对抗训练实现可扩展能量基模型：统一判别与生成
机器学习
2026-03-19 v4 人工智能
摘要
在单一框架中同时实现稳健的分类和高保真的生成建模是一个重大挑战。混合方法，如联合能量基模型（Joint Energy-Based Models, JEM），将分类器解释为能量基模型，但常受限于基于随机梯度朗维德动力学（SGLD）训练固有的不稳定性和差异样品质量问题。我们通过提出一种新型训练框架，将对抗训练（Adversarial Training, AT）原则整合到判别鲁棒性和稳定生成学习中，以解决这些限制。该方法引入了三个关键创新：（1）将基于SGLD的JEM学习替换为基于AT的稳定方法，通过二元交叉熵（Binary Cross-Entropy, BCE）损失判别真实数据与通过投射梯度下降（Projected Gradient Descent, PGD）生成的对比样本，以优化能量函数；（2）对判别组件进行对抗训练，以增强分类鲁棒性，同时隐式提供稳定EBM训练所需的梯度正则化；（3）采用两阶段训练策略，解决与归一化相关的不稳定问题，使能够利用预训练的鲁棒分类器，实现跨架构的有效泛化。在CIFAR-10/100和ImageNet上的实验表明，我们的方法：（1）首次实现基于EBM的混合模型在高分辨率数据集上实现高训练稳定性，同时在ImageNet 256x256上实现最先进的判别和生成性能；（2）独具匠心地将生成质量与对抗鲁棒性相结合，使可实现忠实的反事实解释；（3）作为竞争性独立生成模型，能够与自回归模型相当，超越扩散模型，同时提供额外的多样性。
引用
@article{arxiv.2510.13872,
title = {Scalable Energy-Based Models via Adversarial Training: Unifying Discrimination and Generation},
author = {Xuwang Yin and Claire Zhang and Julie Steele and Nir Shavit and Tony T. Wang},
journal= {arXiv preprint arXiv:2510.13872},
year = {2026}
}
备注
Published at ICLR 2026. Code: https://github.com/xuwangyin/DAT