分布鲁棒次模最大化
机器学习
2018-06-07 v2 最优化与控制
机器学习
摘要
次模函数在机器学习中有广泛应用，但在许多情形下我们无法直接访问底层函数 。我们关注以分布 上函数的期望形式给出的随机函数。实践中，我们往往只有来自 的有限样本 。标准方法通过最大化 之和来间接优化 ，但这忽略了对真实(未知)分布的泛化。本文中，我们通过直接优化偏差与方差的组合，在真实底层函数 上取得了更好性能。在算法上，我们通过展示如何对次模函数进行分布鲁棒优化(DRO)来实现这一点，提供了由理论保证支撑的高效算法，并借助对 DRO 一般理论的若干新贡献。我们还给出了令人信服的经验证据，表明 DRO 改善了对未知随机次模函数的泛化。
引用
@article{arxiv.1802.05249,
title = {Distributionally Robust Submodular Maximization},
author = {Matthew Staib and Bryan Wilder and Stefanie Jegelka},
journal= {arXiv preprint arXiv:1802.05249},
year = {2018}
}