可验证公平性：机器学习系统公平性的隐私保护计算
密码学与安全
2023-09-13 v1 计算机与社会
机器学习
摘要
公平机器学习是一个蓬勃发展且充满活力的研究课题。在本文中，我们提出公平性即服务（Fairness as a Service, FaaS），一种安全、可验证且保护隐私的协议，用于计算并验证任意机器学习（ML）模型的公平性。在 FaaS 的设计中，数据和结果通过密码文表示以确保隐私。同时，零知识证明保证了密码文及底层数据的良构性。FaaS 与模型无关，可支持多种公平性度量；因此，它可作为一种服务用于审计任意 ML 模型的公平性。我们的解决方案在计算公平性度量时不需要可信第三方或私有信道。安全保证与承诺的实现方式使得从过程开始到结束的每一步都是安全透明且可验证的。所有输入数据的密码文公开可用，供任何人（例如审计员、社会活动家和专家）验证过程的正确性。我们实现了 FaaS 以研究性能，并展示了 FaaS 在一个具有数千条记录的公开数据集上的成功应用。
引用
@article{arxiv.2309.06061,
title = {Verifiable Fairness: Privacy-preserving Computation of Fairness for Machine Learning Systems},
author = {Ehsan Toreini and Maryam Mehrnezhad and Aad van Moorsel},
journal= {arXiv preprint arXiv:2309.06061},
year = {2023}
}
备注
accepted in International Workshop on Private, Secure, and Trustworthy AI (PriST-AI), ESORICS'23 workshop