利用零知识证明构建可信机器学习运维
人机交互
2025-05-27 v1
摘要
随着人工智能（AI）系统，特别是基于机器学习（ML）的系统，成为高风险应用的核心组成部分，其概率性和不透明性给传统验证与确认方法带来了重大挑战。在需要防篡改、可审计证据的受监管行业中，这些挑战更加严峻，正如相关法律框架（如欧盟 AI 法案）所强调的那样。相反，零知识证明（ZKPs）提供了一种密码学解决方案，使证明者能够通过经过验证的计算来证明其符合既定要求，而无需泄露敏感的模型细节或数据。通过对 ZKP 协议的系统调查，我们确定了对其应用于 AI 验证与确认流程至关重要的五个关键特性（非交互性、透明设置、标准表示、简洁性和后量子安全性）。随后，我们进行了一项后续系统调查，分析了跨 Team Data Science Process (TDSP) 模型改编版（数据与预处理、训练与离线指标、推理和在线指标）的 ZKP 增强型 ML 应用，详细说明了验证目标、ML 模型和采用的协议。我们的研究结果表明，当前关于 ZKP 增强型 ML 的研究主要集中在推理验证上，而数据预处理和训练阶段仍未得到充分探索。最值得注意的是，我们的分析发现，研究领域内部正显著趋向于开发统一的零知识机器学习运维（ZKMLOps）框架。这一新兴框架利用 ZKPs 提供关于正确性、完整性和隐私性的稳健密码学保证，从而促进增强的问责制、透明度以及对可信 AI 原则的合规性。
引用
@article{arxiv.2505.20138,
title = {FairTalk: Facilitating Balanced Participation in Video Conferencing by Implicit Visualization of Predicted Turn-Grabbing Intention},
author = {Ryo Iijima and Shigeo Yoshida and Atsushi Hashimoto and Jiaxin Ma},
journal= {arXiv preprint arXiv:2505.20138},
year = {2025}
}