Kolmogorov-Arnold 能量模型:快速且可解释的生成模型
机器学习
2026-05-12 v14
摘要
生成模型通常依赖简单潜在先验(如变分自编码器VAEs),后者高效但受限;或依赖高度可表达的迭代采样器(如扩散模型和能量基模型),后者计算成本高且难以解释。我们提出Kolmogorov-Arnold能量模型(KAEM),以桥接这一权衡并为潜在空间可解释性提供新机会。基于Kolmogorov-Arnold表示定理的新颖改编,KAEM对先验施加单变量潜在结构,使其可通过逆变换方法实现精确推断。凭借低维潜在空间和恰当的归纳偏置,重要性抽样成为可行的、无偏且高效的后验推断方法。对于上述情况无法实现的场景,我们提出基于群体的策略,将后验分解为一序列退火分布,为能量基模型的混合问题提供新解。我们将KAEM与VAEs和神经潜在EBM架构进行比较。KAEM在SVHN和CIFAR10上的latent-prior模型中实现了最佳Fréchet Inception Distance,同时实现单次前向传递的采样,并暴露了由1D密度构建的可解释先验。
引用
@article{arxiv.2506.14167,
title = {Kolmogorov-Arnold Energy Models: Fast, Interpretable Generative Modeling},
author = {Prithvi Raj},
journal= {arXiv preprint arXiv:2506.14167},
year = {2026}
}