中文

一种带约束生成的增广拉格朗日方法用于形状约束凸回归问题

最优化与控制 2021-11-23 v3

摘要

形状约束凸回归问题处理的是用凸函数拟合观测数据,其中施加了额外约束,如分量单调性和一致Lipschitz连续性。本文提供了一个统一框架,用于在Rd\mathbb{R}^d中计算多元形状约束凸回归函数的最小二乘估计量。我们证明该最小二乘估计量可通过求解一个本质约束的凸二次规划(QP)问题来计算,该问题具有(d+1)n(d+1)n个变量、n(n1)n(n-1)个线性不等式约束和nn个可能非多面体的不等式约束,其中nn为数据点个数。为高效求解通常非常大规模的凸QP,我们设计了一种近端增广拉格朗日方法(proxALM),其子问题由半光滑牛顿法(SSN)求解。为在nn巨大时进一步加速计算,我们设计了约束生成方法的一个实用实现,使得每个约简问题都能由我们所提出的proxALM高效求解。包括篮子期权定价和经济学中生产函数估计在内的综合数值实验表明,我们提出的proxALM优于最先进算法,且所提出的加速技术进一步大幅缩短了计算时间。

关键词

引用

@article{arxiv.2012.04862,
  title  = {An augmented Lagrangian method with constraint generation for shape-constrained convex regression problems},
  author = {Meixia Lin and Defeng Sun and Kim-Chuan Toh},
  journal= {arXiv preprint arXiv:2012.04862},
  year   = {2021}
}

备注

arXiv admin note: substantial text overlap with arXiv:2002.11410