中文

探索非凸离散能景景:一种高效的类 Langevin 采样器带复制交换

机器学习 2025-05-21 v2 机器学习

摘要

基于梯度的离散采样器(GDS)在离散能景景中效果良好,但在复杂非凸设置下常陷入停滞。为改进探索,我们引入了离散复制交换 Langevin(DREXEL)采样器及其带调整 Metropolis(DREAM)变体。这两种采样器在不同温度和步长下使用两个 GDS:一个专注于局部开发,另一个探索更广泛的能景景。当能量差异显著时,发生样本交换,交换由专为离散采样设计的机制决定,以确保详细平衡。理论上,我们证明了所提出的采样器满足详细平衡并在温和条件下收敛到目标分布。跨越 2D 人工模拟、伊辛模型和受限玻尔兹曼机的采样,以及训练深层能量基模型的实验进一步确认了其在探索非凸离散能景景中的效率。

关键词

引用

@article{arxiv.2501.17323,
  title  = {Exploring Non-Convex Discrete Energy Landscapes: An Efficient Langevin-Like Sampler with Replica Exchange},
  author = {Haoyang Zheng and Hengrong Du and Ruqi Zhang and Guang Lin},
  journal= {arXiv preprint arXiv:2501.17323},
  year   = {2025}
}

备注

7 figures, 30 pages