使用zkSNARKs的可验证机器学习模型评估
机器学习
2024-05-24 v2 人工智能
密码学与安全
摘要
在闭源商业机器学习模型日益增多的世界中，开发者的模型评估必须被当作事实接受。这些基准结果——无论是关于任务准确性、偏见评估还是安全检查——传统上模型终端用户无法验证，除非对黑盒模型输出重新执行基准测试，这一过程成本高昂或不可能。本文提出了一种使用zkSNARKs进行模型推理的可验证模型评估方法。由此产生的模型在数据集上输出的零知识计算证明可以打包成可验证的评估证明，表明具有固定私有权重的模型在公共输入上达到了声称的性能或公平性指标。我们提出了一个灵活的证明系统，使得可验证证明能够在任何标准神经网络模型上执行，且计算需求可变。我们首次在真实世界模型样本上展示了这一点，并强调了关键挑战和设计解决方案。这为私有模型的可验证评估提供了一种新的透明度范式。
引用
@article{arxiv.2402.02675,
title = {Verifiable evaluations of machine learning models using zkSNARKs},
author = {Tobin South and Alexander Camuto and Shrey Jain and Shayla Nguyen and Robert Mahari and Christian Paquin and Jason Morton and Alex 'Sandy' Pentland},
journal= {arXiv preprint arXiv:2402.02675},
year = {2024}
}