基于反射副本交换随机梯度朗之万动力学的约束探索

副本交换随机梯度朗之万动力学 (reSGLD) 是一种用于大规模数据集非凸学习的有效采样器。然而，当高温链过于深入分布尾部时，模拟可能会遇到停滞问题。为了解决这个问题，我们提出了反射 reSGLD (r2SGLD)：一种通过在有界域内利用反射步骤为约束非凸探索量身定制的算法。在理论上，我们观察到减小域的直径可以提高混合速率，表现出$\textit{二次}$行为。在实验上，我们通过广泛的实验测试了其性能，包括识别具有物理约束的动态系统、约束多峰分布的模拟以及图像分类任务。理论和实证发现突出了约束探索在提高模拟效率方面的关键作用。