超越验证：基于归纳解释的隐私泄露后 AI 评估
人工智能
2025-11-14 v1
摘要
AI 基于决策过程中的隐私泄露风险显著，尤其当敏感信息可被推断时。我们提出了一个以归纳解释为基础审计隐私泄露的框架，识别支撑模型决策的最小充分证据，并确定是否存在信息披露。我们的框架形式化了个体层面和系统层面的泄露，引入潜在可适用解释（PAE）的概念，以识别能够遮蔽具有敏感特征个体结果的个体。这一方法在提供严格隐私保障的同时，产生人类可理解的解释，这是审计工具的关键要求。实验在德国信用数据集上进行，说明了敏感字面量在模型决策过程中的重要性如何影响隐私泄露。尽管存在计算挑战和简化假设，我们的结果表明，归纳推理使得可解释隐私审计成为可能，为在 AI 决策中实现透明度、模型可解释性和隐私保护提供了实用的路径。
引用
@article{arxiv.2511.10284,
title = {Beyond Verification: Abductive Explanations for Post-AI Assessment of Privacy Leakage},
author = {Belona Sonna and Alban Grastien and Claire Benn},
journal= {arXiv preprint arXiv:2511.10284},
year = {2025}
}
备注
Accepted at the Workshop on Post-AI Formal Methods at AAAI-26