域泛化下的公平性与准确性
机器学习
2023-02-01 v1 机器学习
摘要
随着机器学习（ML）算法在高风险应用中的使用日益增多，人们担忧它们可能对某些社会群体存在偏见。尽管已提出许多使 ML 模型公平的方法，但它们通常依赖于训练与部署中数据分布相同的假设。不幸的是，这在实践中常被违背，训练时公平的模型在部署时可能导致意外结果。尽管在数据集偏移下设计鲁棒 ML 模型的问题已被广泛研究，但大多数现有工作仅关注准确性的迁移。在本文中，我们研究域泛化下公平性与准确性的迁移，其中测试时的数据可能来自前所未见的域。我们首先给出了部署时不公平性和期望损失的理论界，然后推导了通过不变表示学习实现公平性与准确性完美迁移的充分条件。在此基础上，我们设计了一种学习算法，使得利用训练数据学到的公平 ML 模型在部署环境变化时仍保持高公平性与准确性。在真实数据上的实验验证了所提算法。模型实现见 https://github.com/pth1993/FATDM。
引用
@article{arxiv.2301.13323,
title = {Fairness and Accuracy under Domain Generalization},
author = {Thai-Hoang Pham and Xueru Zhang and Ping Zhang},
journal= {arXiv preprint arXiv:2301.13323},
year = {2023}
}