域适应遇见个体公平。并且它们相处融洽
机器学习
2022-10-18 v2 人工智能
计算机与社会
机器学习
摘要
许多算法偏见的实例由分布偏移引起。例如，机器学习（ML）模型在训练数据中代表性不足的人口统计群体上往往表现更差。本文利用算法公平与分布偏移之间的这一联系，表明算法公平干预可帮助 ML 模型克服分布偏移，且域适应方法（用于克服分布偏移）可缓解算法偏见。具体而言，我们表明（i）在协变量偏移假设下，强制合适的个体公平（IF）概念可提升 ML 模型的分布外准确率；以及（ii）可调整用于域适应的表示对齐方法以强制个体公平。前者出乎意料，因为 IF 干预并非针对分布偏移而开发。后者也出乎意料，因为表示对齐并非个体公平文献中的常见方法。
引用
@article{arxiv.2205.00504,
title = {Domain Adaptation meets Individual Fairness. And they get along},
author = {Debarghya Mukherjee and Felix Petersen and Mikhail Yurochkin and Yuekai Sun},
journal= {arXiv preprint arXiv:2205.00504},
year = {2022}
}
备注
Published at NeurIPS 2022