对 Private Aggregation of Teacher Ensembles 的公平性分析
机器学习
2021-09-20 v1 人工智能
密码学与安全
摘要
Private Aggregation of Teacher Ensembles（PATE）是一个重要的私有机器学习框架。它组合多个用作教师的学习模型，供一个学生模型学习预测由教师间带噪投票选出的输出。所得模型满足差分隐私，并已被证明在半监督设定下或当人们希望保护数据标签时，能有效学习高质量的私有模型。本文探讨这一隐私保护框架是否引入或加剧了偏见与不公，并表明PATE会在个体及个体群体间引入准确率差异。本文分析了哪些算法与数据特性导致了这些不成比例的影响，为何这些方面对不同群体产生不成比例的影响，并提出了缓解这些影响的指导准则。所提方法在多个数据集与设定上进行了评估。
引用
@article{arxiv.2109.08630,
title = {A Fairness Analysis on Private Aggregation of Teacher Ensembles},
author = {Cuong Tran and My H. Dinh and Kyle Beiter and Ferdinando Fioretto},
journal= {arXiv preprint arXiv:2109.08630},
year = {2021}
}