FairProof：神经网络的机密且可认证公平性
机器学习
2024-07-17 v2 人工智能
密码学与安全
摘要
机器学习模型越来越多地应用于社会领域，然而法律和隐私问题要求它们必须经常保持机密。因此，作为模型预测接收端的消费者，对这些模型的公平性属性日益产生不信任。为此，我们提出了 \name——一个利用零知识证明（一种密码学原语）在保持机密性的同时公开验证模型公平性的系统。我们还提出了一种适用于零知识证明的全连接神经网络公平性认证算法，并用于该系统中。我们在 Gnark 中实现了 \name，并通过实证表明我们的系统在实际中是可行的。代码可在 https://github.com/infinite-pursuits/FairProof 获取。
引用
@article{arxiv.2402.12572,
title = {FairProof : Confidential and Certifiable Fairness for Neural Networks},
author = {Chhavi Yadav and Amrita Roy Chowdhury and Dan Boneh and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:2402.12572},
year = {2024}
}