FairALM：用于以较小遗憾训练公平模型的增广拉格朗日方法
计算机视觉与模式识别
2020-06-25 v2 机器学习
摘要
基于计算机视觉与机器学习技术的算法决策持续渗透我们的生活。但这些模型的偏差及其对某些人群不公平对待的程度所引发的问题，已导致公众的担忧。现在人们已认识到，由于呈现给模型的数据集中的偏差，忽视公平性的训练将导致不公平的模型。一个有趣的课题是研究在模型的设计或训练之初便由公平性度量所引导的机制。此处，我们研究在训练模型的同时并行施加公平性的机制。尽管视觉中现有的基于公平性的方法很大程度上依赖于将对抗模块与主要分类/回归任务一同训练，以努力去除受保护属性或变量的影响，我们展示了基于知名优化概念的思想如何能提供更为简单的替代方案。在我们提出的方案中，施加公平性仅需指定受保护属性并利用我们的优化例程。我们提供了详细的技术分析，并给出实验证明文献中的多种公平性度量能够以可解释的方式可靠地施加于视觉中的若干训练任务上。
引用
@article{arxiv.2004.01355,
title = {FairALM: Augmented Lagrangian Method for Training Fair Models with Little Regret},
author = {Vishnu Suresh Lokhande and Aditya Kumar Akash and Sathya N. Ravi and Vikas Singh},
journal= {arXiv preprint arXiv:2004.01355},
year = {2020}
}