ZKPROV：一种面向大型语言模型数据集溯源的零知识方法
密码学与安全
2025-12-22 v2 人工智能
机器学习
摘要
随着大型语言模型（LLM）被应用于敏感领域，在不泄露其训练数据集的情况下准确验证其计算溯源构成了重大挑战，尤其是在对数据集使用有严格要求的医疗保健等受监管行业中。传统方法要么产生大量计算成本以完全验证整个训练过程，要么向验证者泄露未经授权的信息。因此，我们引入 ZKPROV，一种新颖的密码学框架，允许用户验证 LLM 对其提示的响应是否基于由拥有数据集的权威机构认证的数据集训练而成。此外，它确保数据集内容与用户查询相关，且不泄露有关数据集或模型参数的敏感信息。ZKPROV 通过绑定训练数据集、模型参数和响应，同时将零知识证明附加到 LLM 生成的响应以验证这些声明，在隐私与效率之间提供了独特的平衡。我们的实验结果证明，生成和验证这些证明具有次线性扩展性，对于参数量高达 8B 的模型，端到端开销低于 3.3 秒，为实际应用提供了一种实用解决方案。我们还提供了形式化安全保证，证明我们的方法在确保可信数据集溯源的同时保留了数据集机密性。
引用
@article{arxiv.2506.20915,
title = {ZKPROV: A Zero-Knowledge Approach to Dataset Provenance for Large Language Models},
author = {Mina Namazi and Alexander Nemecek and Erman Ayday},
journal= {arXiv preprint arXiv:2506.20915},
year = {2025}
}
备注
16 pages, 3 figures