训练公平神经网络的技術挑战
机器学习
2021-02-16 v1 人工智能
计算机与社会
摘要
随着机器学习算法广泛应用至各类场景，人们对其预测公平性的担忧日益增加，尤其是在高风险场景（如人脸识别与医学影像）中。为回应这些担忧，学界已提出并形式化了多种公平性概念以及纠正不公平行为的方法。尽管针对经典模型的公平性约束已被广泛研究，但在深度神经网络上施加公平性的方法之有效性尚不明晰。本文中，我们观察到这些大型模型会对公平性目标过拟合，并产生一系列非预期且不理想的后果。我们使用最先进的架构在人脸识别与自动化医学诊断数据集上进行了实验。
引用
@article{arxiv.2102.06764,
title = {Technical Challenges for Training Fair Neural Networks},
author = {Valeriia Cherepanova and Vedant Nanda and Micah Goldblum and John P. Dickerson and Tom Goldstein},
journal= {arXiv preprint arXiv:2102.06764},
year = {2021}
}