在部分组标签存在下的群体鲁棒性研究
机器学习
2022-01-12 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
当机器学习模型受数据集中虚假相关性驱动时,学习不变表示是一项重要需求。这些输入样本与目标标签之间的虚假相关性会错误地引导神经网络预测,导致在某些群体(尤其是少数群体)上表现不佳。针对这些虚假相关性的鲁棒训练需要已知每个样本的群体归属。这一要求在不常见或稀有群体的数据标注极为费力,或数据集中个体选择隐藏敏感信息的情况下是不切实际的。另一方面,此类数据收集工作的存在导致数据集包含部分标注的群体信息。近期工作已处理无任何群体标签的完全无监督场景。因此,我们旨在通过解决一种更现实的设定来填补文献中的空白,该设定可在训练期间利用部分可用的敏感或群体信息。首先,我们构造一个约束集并推导出群体归属属于该集的高概率界。其次,我们提出一种算法,从约束集中优化最劣势群体的分配。通过在图像与表格数据集上的实验,我们展示了少数群体性能的提升,同时保持了跨群体的总体聚合准确率。
引用
@article{arxiv.2201.03668,
title = {Towards Group Robustness in the presence of Partial Group Labels},
author = {Vishnu Suresh Lokhande and Kihyuk Sohn and Jinsung Yoon and Madeleine Udell and Chen-Yu Lee and Tomas Pfister},
journal= {arXiv preprint arXiv:2201.03668},
year = {2022}
}