差分隐私与公平深度学习：拉格朗日对偶方法
机器学习
2020-09-29 v1 人工智能
密码学与安全
机器学习
摘要
在数据驱动决策中的一个关键问题是构建其结果不歧视某些人口统计群体（包括性别、种族或年龄）的模型。为确保学习任务中的非歧视性，了解敏感属性至关重要，而在实践中，由于法律与伦理要求，这些属性可能不可用。为应对这一挑战，本文研究一种保护个体敏感信息隐私同时允许学习非歧视性预测器的模型。该方法依赖于差分隐私的概念以及拉格朗日对偶的使用，以设计能够在保证敏感属性隐私的同时容纳公平性约束的神经网络。本文分析了准确性、隐私和公平性之间的张力，实验评估说明了所提模型在若干预测任务上的优势。
引用
@article{arxiv.2009.12562,
title = {Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach},
author = {Cuong Tran and Ferdinando Fioretto and Pascal Van Hentenryck},
journal= {arXiv preprint arXiv:2009.12562},
year = {2020}
}