隐私保护可验证神经网络推理服务
密码学与安全
2024-11-14 v2 机器学习
摘要
机器学习彻底改变了数据分析和模式识别，但其资源密集型训练限制了可及性。机器学习即服务（MLaaS）通过允许用户将数据样本委托给 MLaaS 提供商并使用预训练模型获得推理结果，简化了这一过程。尽管方便，利用 MLaaS 给客户端带来了显著的隐私和可靠性担忧。具体而言，客户端查询数据中的敏感信息可能泄露给对抗性的 MLaaS 提供商。同时，缺乏可验证性保证可能导致有偏的推理结果，甚至引发不公平支付问题。虽然现有的可信机器学习技术（如依赖可验证计算或安全计算的技术）为隐私和可靠性问题提供了解决方案，但它们无法同时保护客户端数据隐私并提供可证明的推理可验证性。本文提出 vPIN，一种隐私保护且可验证的 CNN 推理方案，在确保推理可验证性的同时保护客户端数据样本的隐私。vPIN 利用部分同态加密和承诺证明简洁非交互知识论证技术以实现理想的安全属性。在 vPIN 中，我们开发了多种优化技术以最小化同态推理评估的证明电路，从而提高技术的效率和性能。我们在标准数据集（如 MNIST、CIFAR-10）上完全实现并评估了 vPIN 方案。实验结果表明，vPIN 在证明时间、验证时间和证明大小方面实现了高效率，同时提供客户端数据隐私保证和可证明的可验证性。
引用
@article{arxiv.2411.07468,
title = {Privacy-Preserving Verifiable Neural Network Inference Service},
author = {Arman Riasi and Jorge Guajardo and Thang Hoang},
journal= {arXiv preprint arXiv:2411.07468},
year = {2024}
}
备注
Accepted at the Annual Computer Security Applications Conference (ACSAC) 2024. Source code: github.com/vt-asaplab/vPIN