中文

一种智能预测后优化方法的风险界与校准

机器学习 2021-10-27 v2 最优化与控制 机器学习

摘要

预测后优化框架在实际随机决策问题中是基础性的:首先预测优化模型的未知参数,然后使用预测值求解问题。该设定下一个自然的损失函数通过度量由预测参数引起的决策误差来定义,Elmachtoub 和 Grigas [arXiv:1710.08005] 将其命名为智能预测后优化(SPO)损失。由于 SPO 损失通常是非凸且可能不连续的,Elmachtoub 和 Grigas [arXiv:1710.08005] 引入了一个凸代理损失,称为 SPO+ 损失,其重要地考虑了优化模型的底层结构。在本文中,我们大幅扩展了 Elmachtoub 和 Grigas [arXiv:1710.08005] 给出的 SPO+ 损失的一致性结果。我们针对 SPO+ 损失相对于 SPO 损失开发了风险界和一致校准结果,提供了将过剩代理风险转化为过剩真实风险的定量方法。通过将我们的风险界与泛化界结合,我们表明 SPO+ 损失的经验最小化器以高概率实现低过剩真实风险。我们首先在底层优化问题的可行域为多面体的情形下展示这些结果,然后表明当可行域为强凸函数的水平集时结果可大幅加强。我们进行实验,在投资组合配置和代价敏感多类分类问题上经验性地展示了 SPO+ 代理相较于标准 1\ell_1 和平方 2\ell_2 预测误差损失的优势。

关键词

引用

@article{arxiv.2108.08887,
  title  = {Risk Bounds and Calibration for a Smart Predict-then-Optimize Method},
  author = {Heyuan Liu and Paul Grigas},
  journal= {arXiv preprint arXiv:2108.08887},
  year   = {2021}
}

备注

To appear in NeurIPS 2021