中文

预测后优化框架中的泛化界

机器学习 2022-08-03 v3 机器学习

摘要

预测后优化框架在许多实际场景中具有基础性:预测优化问题的未知参数,然后使用预测的参数值求解该问题。此环境中的自然损失函数是考虑由预测参数所诱导的决策代价,而非参数的预测误差。该损失函数最近由 Elmachtoub 和 Grigas(2022)提出,并称为 Smart Predict-then-Optimize(SPO)损失。在本工作中,我们旨在针对 SPO 损失,提供拟合于训练数据的预测模型在样本外表现泛化程度的界。由于 SPO 损失是非凸且非 Lipschitz 的,推导泛化界的标准结果不适用。我们首先基于 Natarajan 维推导界,在多边形可行域的情形下,其随极点数至多对数缩放;而在一般凸可行域的情形下,对决策维度呈线性依赖。通过利用 SPO 损失函数的结构以及我们将可行域的一个关键性质记为强度性质(strength property),我们可以显著改善对决策和特征维度的依赖。我们的方法和分析依赖于在不会产生唯一最优解的问题预测周围放置间隔(margin),随后在修正的间隔 SPO 损失函数(其为 Lipschitz 连续的)背景下提供泛化界。最后,我们刻画了强度性质,并表明修正的 SPO 损失对于强凸体和具有显式极点表示的多面体均可高效计算。

关键词

引用

@article{arxiv.1905.11488,
  title  = {Generalization Bounds in the Predict-then-Optimize Framework},
  author = {Othman El Balghiti and Adam N. Elmachtoub and Paul Grigas and Ambuj Tewari},
  journal= {arXiv preprint arXiv:1905.11488},
  year   = {2022}
}

备注

Preliminary version in NeurIPS 2019