可微分布鲁棒优化层
最优化与控制
2024-06-25 v1 人工智能
机器学习
系统与控制
系统与控制
摘要
近年来,决策导向学习逐渐受到关注,这种方法将优化问题嵌入学习管道中,显示出优于预测导向方法的更好性能。然而,对于分布鲁棒优化(DRO)这种面向不确定性决策的流行范式,尚不清楚如何将其作为层嵌入,即如何对模糊集合中的决策进行求导。本文发展了用于通用混合整数 DRO 问题的可微 DRO 层,参数化的二阶锥模糊集合,并讨论了其向 Wasserstein 模糊集合的扩展。为对混合整数决策进行求导,我们提出了一种新颖的双视图方法,通过不同原则处理决策的连续和离散部分。具体而言,我们构建了一个可微能量基 surrogate 以实现双视图方法,并使用重要抽样来估计其梯度。我们进一步证明,该 surrogate 在正则化下具有渐近收敛性。作为所提可微 DRO 层的应用,我们开发了一个用于情境分布鲁棒决策任务的新型决策导向学习管线,并在实验中与预测导向方法进行比较。
引用
@article{arxiv.2406.16571,
title = {Differentiable Distributionally Robust Optimization Layers},
author = {Xutao Ma and Chao Ning and Wenli Du},
journal= {arXiv preprint arXiv:2406.16571},
year = {2024}
}
备注
In Forty-first International Conference on Machine Learning (2024)