机器学习公平性的跨域迁移
机器学习
2019-11-18 v3 机器学习
摘要
如果我们的模型被用于新的或意外的情形，我们是否知道它们会做出公平的预测？此前，研究者提出了针对单一问题域对模型去偏的方法。然而，这往往并非模型在实践中的训练与使用方式。例如，标签和人口统计信息（敏感属性）通常难以观测，导致使用辅助或合成数据进行训练，并使用敏感属性的代理来进行公平性评估。为一个设定训练的模型可能被采用并用于许多其他设定，尤其在预训练和云 API 常见的情形下。尽管这些复杂性十分普遍，公平性文献中极少有工作从理论层面考察这些问题。我们将所有这些设定框定为域适应问题：我们如何运用在源域中学到的知识，在新的目标域中去偏，而不将目标域当作全新问题直接去偏？我们提供了跨域改善公平性的新的理论保证，并给出了迁移到数据稀疏目标域的建模方法。我们给出了验证理论的经验结果，表明这些建模方法能用更少的数据改善公平性指标。
引用
@article{arxiv.1906.09688,
title = {Transfer of Machine Learning Fairness across Domains},
author = {Candice Schumann and Xuezhi Wang and Alex Beutel and Jilin Chen and Hai Qian and Ed H. Chi},
journal= {arXiv preprint arXiv:1906.09688},
year = {2019}
}