高风险场景下隐私与可解释性的统一：系统性探究
密码学与安全
2025-05-23 v4 人工智能
计算机视觉与模式识别
摘要
深度学习的盛行已重塑了高风险决策，使得遵循包含 Right-to-Privacy（RTP）和 Right-to-Explanation（RTE）于内的严格操作框架变得至关重要。本文审视了这两项要求的复杂性。针对 RTP，我们关注差分隐私（DP），因其对隐私保护机器学习提供强有力的量化保证而被视为当前的金标准。针对 RTE，我们关注 post-hoc 解释器：它们是模型审计的首选选择，独立于模型训练。我们正式检讨 DP 模型和各种常用 post-hoc 解释器：如何在 RTP 条件下评估这些解释器，以及分析 DP 模型与这些解释器之间的内在交互。此外，我们的工作阐明了如何在高风险应用中有效组合 RTP 和 RTE。我们的研究以工业软件管道为结论，举例说明一个被广泛使用的用例，能够同时满足 RTP 和 RTE 要求。
引用
@article{arxiv.2412.20798,
title = {Reconciling Privacy and Explainability in High-Stakes: A Systematic Inquiry},
author = {Supriya Manna and Niladri Sett},
journal= {arXiv preprint arXiv:2412.20798},
year = {2025}
}
备注
Accepted at TMLR