关于针对随机非凸约束问题的内镜 descent 流的探索

我们研究了一个定义在非凸约束上的非光滑非凸优化问题，其中可行集由开集闭包的交集和光滑流形给出。通过对开集赋予由障碍函数诱导的黎曼度量，我们获得了作为微分包含形式的黎曼次梯度流，该流严格保持在可行集的内部。这种连续动态系统统一了两类迭代优化方法，即Hessian 障碍方法和镜像 descent 方案，揭示了这些方法可被解释为连续流的离散近似。我们探讨了该动力系统生成的轨迹的长期行为，表明Hessian 障碍方法和镜像 descent 方案现有的质疑收敛性质可以通过对连续轨迹的理解来统一且更具洞察力地解释。例如，Hessian 障碍方法和镜像 descent 方案中观察到的著名虚假平稳点\cite{chen2024spurious}被解释为动力系统的稳定平衡点，这些平衡点不对应于原始优化问题的真实平稳点。我们提供两个充分条件，使得在严格补充条件成立时，这些虚假平稳点可以被避免。在缺乏这些规整性条件的情况下，我们提出一种随机扰动策略，确保轨迹收敛（亚收敛）到近似平稳点。基于这些见解，我们引入两种迭代黎曼次梯度方法，形式上属于内点方法，扩展了现有的Hessian 障碍方法和镜像 descent 方案，以求解非光滑非凸优化问题。