中文

Stein 变分梯度下降的一致时间混沌传播

概率论 2026-06-30 v1 机器学习

摘要

我们研究了连续时间 Stein 变分梯度下降(SVGD)的一致时间混沌传播。平均场系统的经典有限时间混沌传播估计通常随时间迅速恶化,因此不能直接解释有限粒子系统与其平均场极限之间的长期关系。我们获得了两类互补的一致时间混沌传播结果。对于广泛的分布度量,我们引入了一种截断策略,该策略将直到 NN 相关时间范围的有限时间混沌传播估计与有限粒子和平均场 SVGD 流的独立定量长期收敛估计相结合。这在 Langevin 核 Stein 散度、Wasserstein-1 距离和 Wasserstein-2 距离中产生了一致平均时间混沌传播界,其速率取决于度量、目标和核类别,为对数或迭代对数速率。我们还为矩阵值有限秩核发展了一个有限维理论。对于具有双线性核的高斯目标,SVGD 动力学在一阶和二阶矩上精确闭合,在有限维 Stein 特征度量中产生真正的物理时间一致参数化混沌传播速率。然后我们证明了一个共轭原理,表明这些特征级估计在保向微分同胚下转移到共轭目标-核对,从而将该理论扩展到广泛的非线性目标类别,包括多模态目标。总之,这些结果突出了通用分布度量(我们的通用方法产生对数速率)与闭合有限维 Stein 可观测值(参数化 N1/2N^{-1/2} 混沌传播速率随时间一致持续)之间的对比。

关键词

引用

@article{arxiv.2607.00149,
  title  = {Uniform-in-time Propagation-of-Chaos for Stein Variational Gradient Descent},
  author = {Krishnakumar Balasubramanian and Sayan Banerjee and Anna Korba},
  journal= {arXiv preprint arXiv:2607.00149},
  year   = {2026}
}

备注

56 pages