ExpProof：利用零知识证明为机密模型实现可操作的解释
机器学习
2025-06-02 v4 人工智能
密码学与安全
摘要
原则上，解释旨在增加对机器学习模型的信任，并且通常受到法规的强制要求。然而，许多需要解释的场景本质上是对抗性的，这意味着相关方利益不一致，并有动机为了自身目的而操纵解释。因此，尽管存在需求，可解释性方法在此类环境中仍无法有效运作 \cite{bordt2022post}。在本文中，我们利用密码学原语——零知识证明（ZKP），朝着在对抗性场景中实现可操作解释迈出了一步。具体来说，我们探索了流行可解释性算法 LIME 的 ZKP 友好版本，并评估了它们在神经网络和随机森林上的性能。我们的代码已在 https://github.com/emlaufer/ExpProof 公开。
引用
@article{arxiv.2502.03773,
title = {ExpProof : Operationalizing Explanations for Confidential Models with ZKPs},
author = {Chhavi Yadav and Evan Monroe Laufer and Dan Boneh and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:2502.03773},
year = {2025}
}