中文

次梯度下降的不确定性量化及其在离散问题松弛中的应用

最优化与控制 2022-07-06 v1

摘要

我们考虑最小化一个依赖于不确定参数 θ\theta 的凸函数的问题。目标函数中的不确定性意味着最优值 x(θ)x^*(\theta) 也是 θ\theta 的函数。我们提出一种高效方法来计算 x(θ)x^*(\theta) 及其统计特性。我们使用沿截断基的 x(θ)x^*(\theta) 的混沌展开,并研究一种计算最优系数的重启次梯度方法。我们建立了该方法随基函数数量增加(从而优化问题维数增加)的收敛速率。我们给出了次梯度下降的非渐近收敛速率,建立在先前关于梯度下降和加速梯度下降的工作之上。此外,本工作显式处理了投影问题,并提出了一种处理非平凡投影的方法。我们展示了该算法如何借助 min s,t-cut 图问题的(凸)Lovasz 扩展来量化离散问题中的不确定性。

关键词

引用

@article{arxiv.2207.02078,
  title  = {Uncertainty quantification for subgradient descent, with applications to relaxations of discrete problems},
  author = {Conor McMeel and Panos Parpas},
  journal= {arXiv preprint arXiv:2207.02078},
  year   = {2022}
}

备注

Appeared at LION16. arXiv admin note: text overlap with arXiv:2111.02836