面向可解释联邦学习：探讨差分隐私的影响
机器学习
2026-04-23 v2 密码学与安全
摘要
数据隐私和可解释人工智能 (XAI) 是现代机器学习系统的两个重要方面。为增强数据隐私，最近的机器学习模型被设计为联邦学习 (FL) 系统。此基础上，可以通过差分隐私 (DP) 添加额外的隐私层。在另一方面，为提高可解释性，机器学习必须考虑更具可解释性的做法，即减少特征数量和较少的内部架构复杂度。在此背景下，本文旨在构建一个结合增强数据隐私与可解释性的机器学习模型。因此，我们提出一种 FL 解决方案，称为带差分隐私的联邦可解释树 (Federated EXplainable Trees with Differential Privacy, FEXT-DP)，其：(i) 基于决策树，因为它们轻量且在神经网络基于 FL 系统中具有优越的可解释性；(ii) 通过对树基于模型应用差分隐私 (DP) 提供额外的数据隐私保护。然而，添加 DP 也会产生副作用：它损害了系统的可解释性。因此，本文还呈现了 DP 保护对机器学习模型可解释性影响的分析，分析了所得结果在 SHAP (SHapley Additive exPlanations) 和平均不纯度减少 (MDI) 方面的表现。
引用
@article{arxiv.2602.10100,
title = {Towards Explainable Federated Learning: Understanding the Impact of Differential Privacy},
author = {Júlio Oliveira and Rodrigo Ferreira and André Riker and Glaucio H. S. Carvalho and Eirini Eleni Tsilopoulou},
journal= {arXiv preprint arXiv:2602.10100},
year = {2026}
}