数据驱动报童问题中用于特征选择的双层优化
机器学习
2022-09-13 v1 最优化与控制
摘要
我们研究基于特征的报童问题，其中决策者可获取由需求观测与外生特征组成的历史数据。在此设定下，我们探究特征选择，旨在导出稀疏、可解释的模型并改善样本外表现。迄今为止，最先进的方法利用正则化，其对所选特征数量或解向量的范数进行惩罚。作为替代，我们引入一种新颖的双层规划公式。上层问题选择一个特征子集，以最小化基于留出验证集的订货决策样本外成本的估计。下层问题在训练集上仅使用上层所选特征学习决策函数的最优系数。我们给出了该双层规划的混合整数线性规划重构，可用标准优化求解器求最优解。我们的计算实验表明，该方法在样本量为数百观测的实例中已能准确恢复真实特征。相比之下，基于正则化的技术常在特征恢复上失败或需要数千观测才能获得类似精度。在样本外泛化方面，我们实现了更优或可比的成本表现。
引用
@article{arxiv.2209.05093,
title = {Bilevel Optimization for Feature Selection in the Data-Driven Newsvendor Problem},
author = {Breno Serrano and Stefan Minner and Maximilian Schiffer and Thibaut Vidal},
journal= {arXiv preprint arXiv:2209.05093},
year = {2022}
}