Wasserstein 分布鲁棒模型的通用泛化保证
最优化与控制
2025-01-28 v3 机器学习
摘要
分布鲁棒优化已成为训练鲁棒机器学习模型的一种吸引人的方法，能够捕捉数据不确定性和分布偏移。最近的统计分析证明，基于 Wasserstein 距离的鲁棒模型的泛化保证不受维数灾难的影响。然而，这些结果要么是近似的，要么是在特定情况下获得的，要么基于实践中难以验证的假设。相比之下，我们建立了精确的泛化保证，涵盖了广泛的情况，包括任意传输成本和参数化损失函数，包括具有非光滑激活函数的深度学习目标。我们通过鲁棒目标的超额界以及对具有熵正则化的 Wasserstein 鲁棒模型的扩展完成了我们的分析。
引用
@article{arxiv.2402.11981,
title = {Universal generalization guarantees for Wasserstein distributionally robust models},
author = {Tam Le and Jérôme Malick},
journal= {arXiv preprint arXiv:2402.11981},
year = {2025}
}