FAIRPLAI：面向公平与私密机器学习的人类仪式化方法
机器学习
2025-11-13 v1 人工智能
密码学与安全
计算机与社会
摘要
随着机器学习系统从理论走向实践，它们越来越被要求做出影响医疗保健获取、金融机会、招聘和公共服务的决定。在这些情境下，准确性仅是谜题中的一个部分——模型也必须对不同群体公平，保护个人隐私，并对利益相关者保持可解释性。实现这三者困难重重：差分隐私可能会无意中加剧不平等，公平干预往往依赖于受隐私限制的敏感数据，而自动化管道则忽视公平最终是人类和情境判断的结果。我们引入 FAIRPLAI（Fair and Private Learning with Active Human Influence），一个实际框架，将人类监督集成到机器学习系统的设计和部署中。FAIRPLAI 通过三种方式工作：(1) 构建隐私-公平前沿，使准确性、隐私保证和群体结果之间的trade-off变得透明；(2) 启用交互式利益相关者输入，允许决策者选择反映其领域需求的公平准则和运行点；(3)嵌入差分隐私审计循环，使人类能够在不损害个人数据安全的情况下审查解释和边缘情况。应用于基准数据集时，FAIRPLAI 在保持强隐私保护的同时，相较于自动化基线显著减少了公平不平等。更重要的是，它提供了一个简洁、可解释的过程，帮助实践者在社会重大应用中管理准确性、隐私和公平的相互制约需求。通过将人类判断嵌入其中最关键的地方，FAIRPLAI 为实现实际中有效、负责任且可信赖的机器学习系统提供了一条路径。GitHub：https://github.com/Li1Davey/Fairplai
引用
@article{arxiv.2511.08702,
title = {FAIRPLAI: A Human-in-the-Loop Approach to Fair and Private Machine Learning},
author = {David Sanchez and Holly Lopez and Michelle Buraczyk and Anantaa Kotal},
journal= {arXiv preprint arXiv:2511.08702},
year = {2025}
}