SF-PATE：可扩展、公平且隐私保护的教师集成聚合
机器学习
2022-04-12 v1 人工智能
摘要
在数据驱动流程中，一个关键关切是构建其结果不歧视某些人口群体（包括性别、族裔或年龄）的模型。为确保学习任务中的非歧视性，群体属性的知识至关重要。然而在实践中，由于法律与伦理要求，这些属性可能不可用。为应对这一挑战，本文研究一种在保护个体敏感信息隐私的同时，仍能学习非歧视性预测器的模型。所提模型的一个关键特征是能够采用现成且非私有的公平模型来创建隐私保护且公平的模型。本文分析了准确性、隐私与公平性之间的关系，实验评估说明了所提模型在多个预测任务上的益处。特别地，该方案首次实现了针对极大规模神经网络的可扩展且准确的私有公平模型训练。
引用
@article{arxiv.2204.05157,
title = {SF-PATE: Scalable, Fair, and Private Aggregation of Teacher Ensembles},
author = {Cuong Tran and Keyu Zhu and Ferdinando Fioretto and Pascal Van Hentenryck},
journal= {arXiv preprint arXiv:2204.05157},
year = {2022}
}