具有弱凸损失的分布鲁棒学习：收敛速率与有限样本保证
最优化与控制
2023-06-12 v3 统计理论
统计理论
摘要
我们考虑一个分布鲁棒随机优化问题，并利用均值-半偏差风险度量将其表述为一个随机双层复合优化问题。在此设定下，我们考虑一种单时间尺度算法，涉及两种内部函数值跟踪版本：对连续可微损失函数的线性化跟踪，以及对弱凸损失函数的 SPIDER 跟踪。我们采用 Moreau 包络的梯度范数作为平稳性的度量，并表明在两种情况下 的样本复杂度都是可能的，仅第二种情况下常数更大。最后，我们通过一个鲁棒学习示例和一个弱凸、非光滑回归示例展示了我们算法的性能。
引用
@article{arxiv.2301.06619,
title = {Distributionally Robust Learning with Weakly Convex Losses: Convergence Rates and Finite-Sample Guarantees},
author = {Landi Zhu and Mert Gürbüzbalaban and Andrzej Ruszczyński},
journal= {arXiv preprint arXiv:2301.06619},
year = {2023}
}