关于私有集成模型的公平性影响
机器学习
2023-05-22 v1 人工智能
计算机与社会
摘要
教师集成私有聚合（PATE）是一种机器学习框架，它通过组合多个“教师”模型与一个“学生”模型来创建私有模型。学生模型基于教师的投票学习预测输出，所得模型满足差分隐私。PATE已被证明在半监督环境或保护数据标签为优先事项时能有效创建私有模型。本文探讨使用PATE是否会导致不公平，并证明它可能引致不同个体群体间的准确率差异。本文还分析了造成这些不成比例影响的算法与数据性质、为何这些方面对不同群体产生不成比例的影响，并给出了缓解这些影响的建议。
引用
@article{arxiv.2305.11807,
title = {On the Fairness Impacts of Private Ensembles Models},
author = {Cuong Tran and Ferdinando Fioretto},
journal= {arXiv preprint arXiv:2305.11807},
year = {2023}
}
备注
This version is a "full version" of the associated IJCAI-23 article. arXiv admin note: substantial text overlap with arXiv:2109.08630