在线公平性的安全与保密证书
计算机与社会
2025-10-28 v2 机器学习
摘要
黑盒服务模型使机器学习服务提供商能够在保护其知识产权和客户数据机密性的同时为客户提供服务。保密性对于合法且负责任地提供机器学习服务至关重要，但这使得外部方难以验证重要的模型属性，例如公平性。现有的保密评估模型公平性的方法要么缺乏可靠性，因为它们基于静态数据集认证公平性，因此无法保证在分布漂移或服务提供商不当行为情况下的公平性；要么由于保密性密码原语的计算开销而缺乏可扩展性。我们通过引入在线公平性证书来解决这些问题，该证书验证模型在部署期间相对于服务提供商在线接收的数据是公平的。然后，我们提出了OATH，一种可部署高效且可扩展的零知识证明协议，用于保密的在线群体公平性认证。OATH通过一种切割选择风格的协议利用群体公平性的统计特性，实现了相对于基线的可扩展性改进。
引用
@article{arxiv.2410.02777,
title = {Secure and Confidential Certificates of Online Fairness},
author = {Olive Franzese and Ali Shahin Shamsabadi and Carter Luck and Hamed Haddadi},
journal= {arXiv preprint arXiv:2410.02777},
year = {2025}
}