基于概率分组的分布鲁棒优化
机器学习
2023-03-13 v1
摘要
现代机器学习模型可能易于学到平均成立但对非典型样本组不成立的伪相关。为解决该问题,先前方法最小化经验最差组风险。尽管有前景,它们通常假设每个样本属于且仅属于一个组,无法表达组标注中的不确定性。本文提出一个新框架 PG-DRO,探索概率组成员关系用于分布鲁棒优化。我们框架的关键在于考虑软组成员关系而非硬组标注。组概率可使用监督学习或零样本方法灵活生成。我们的框架适应具有组成员模糊性的样本,比先前工作提供更强灵活性和通用性。我们在图像分类和自然语言处理基准上全面评估 PG-DRO,建立了优越性能。
引用
@article{arxiv.2303.05809,
title = {Distributionally Robust Optimization with Probabilistic Group},
author = {Soumya Suvra Ghosal and Yixuan Li},
journal= {arXiv preprint arXiv:2303.05809},
year = {2023}
}
备注
Published at AAAI 2023