智能“先预测，后优化”

许多现实世界的分析问题涉及两个重大挑战：预测与优化。由于每个挑战通常都很复杂，标准范式是先预测后优化。总的来说，机器学习工具旨在最小化预测误差，并不考虑预测将如何用于下游的优化问题。相比之下，我们提出了一个新的、非常通用的框架，称为智能“先预测，后优化”（SPO），它直接利用优化问题的结构，即其目标和约束，来设计更好的预测模型。我们框架的一个关键组成部分是 SPO 损失函数，它衡量由预测引起的决策误差。针对 SPO 损失训练预测模型在计算上具有挑战性，因此我们利用对偶理论推导出一个凸代理损失函数，我们称之为 SPO+ 损失。最重要的是，我们证明了在温和条件下，SPO+ 损失相对于 SPO 损失是统计一致的。我们的 SPO+ 损失函数可以易处理地处理任何具有线性目标的多面体、凸甚至混合整数优化问题。在最短路径和投资组合优化问题上的数值实验表明，SPO 框架可以在先预测后优化的范式下带来显著改进，特别是当被训练的预测模型被错误指定时。我们发现，使用 SPO+ 损失训练的线性模型往往优于随机森林算法，即使真实情况是高度非线性的。