BARACK：带保证的部分监督群体鲁棒性
机器学习
2022-04-12 v2
摘要
尽管神经网络在分类任务的平均性能上取得了显著成功，它们往往在某些数据群体上表现不佳。此类群体信息可能获取代价高昂；因此，近期鲁棒性与公平性研究提出了即便训练数据无群体标签时也能改善最差群体性能的方法。然而，这些方法通常逊于训练时使用群体信息的方法。在本工作中，我们假设可获取少量群体标签以及更大的无群体标签数据集。我们提出 BARACK，一种利用该部分群体信息改善最差群体性能的简单两步框架：训练模型预测训练数据的缺失群体标签，随后在鲁棒优化目标中使用这些预测群体标签。理论上，我们就最差群体性能为我们的方法提供了泛化界，其随训练点总数与带群体标签的训练点数量而缩放。实证上，即便仅 1-33% 的点具有群体标签，我们的方法也优于不使用群体信息的基线。我们提供消融实验以支撑框架的鲁棒性与可扩展性。
引用
@article{arxiv.2201.00072,
title = {BARACK: Partially Supervised Group Robustness With Guarantees},
author = {Nimit S. Sohoni and Maziar Sanjabi and Nicolas Ballas and Aditya Grover and Shaoliang Nie and Hamed Firooz and Christopher Ré},
journal= {arXiv preprint arXiv:2201.00072},
year = {2022}
}
备注
26 pages