通过公平一致性正则化在分布偏移下迁移公平性
机器学习
2023-01-18 v3 计算机与社会
摘要
在高风险任务中对 ML 模型日益增长的依赖引发了关于公平性违背的主要担忧。尽管已有大量工作改善算法公平性，其中多数基于训练和测试分布相同的假设。然而，在许多真实应用中，该假设常被违背，因为先前训练的公平模型常部署于不同环境中，且已观察到此类模型的公平性崩溃。本文研究如何在分布偏移下迁移模型公平性，这是实践中普遍存在的问题。我们对公平模型在不同类型分布偏移下所受影响进行了细粒度分析，发现域偏移比子群体偏移更具挑战性。受自训练在域偏移下迁移准确率方面成功的启发，我们推导了迁移群体公平性的一个充分条件。在其指导下，我们提出一种以公平一致性正则化为关键组件的实用算法。一个涵盖所有类型分布偏移的合成数据集基准被用于理论发现的实验验证。在包含图像和表格数据的合成与真实数据集上的实验表明，我们的方法在各种分布偏移下有效迁移了公平性与准确率。
引用
@article{arxiv.2206.12796,
title = {Transferring Fairness under Distribution Shifts via Fair Consistency Regularization},
author = {Bang An and Zora Che and Mucong Ding and Furong Huang},
journal= {arXiv preprint arXiv:2206.12796},
year = {2023}
}
备注
Accepted to NeurIPS 2022