机器学习模型中效用、隐私与公平性之间权衡的自动发现
机器学习
2023-11-28 v1 密码学与安全
计算机与社会
摘要
机器学习模型作为决策制定和政策操作的核心组件被部署，对个人的生活产生直接影响。为了合乎道德并遵守政府法规，这些模型需要做出公平的决策并保护用户隐私。然而，与可能存在偏见、泄露隐私的对应模型相比，此类要求可能导致模型性能下降。因此，机器学习模型的公平性、隐私性和性能之间的权衡随之出现，从业者需要一种量化该权衡的方法以支持部署决策。在本工作中，我们将此权衡解释为一个多目标优化问题，并提出了 PFairDP，一种使用贝叶斯优化来发现机器学习模型公平性、隐私性和效用之间帕累托最优点的流水线。我们展示了 PFairDP 如何用于复现通过手动约束设置过程获得的已知结果。我们进一步通过在多个模型和数据集上的实验证明了 PFairDP 的有效性。
引用
@article{arxiv.2311.15691,
title = {Automated discovery of trade-off between utility, privacy and fairness in machine learning models},
author = {Bogdan Ficiu and Neil D. Lawrence and Andrei Paleyes},
journal= {arXiv preprint arXiv:2311.15691},
year = {2023}
}
备注
3rd Workshop on Bias and Fairness in AI (BIAS), ECML 2023