用 Shapley 值解释联邦学习
机器学习
2019-05-14 v1 机器学习
摘要
联邦学习通过将训练数据分布到多方来保护隐私。每方训练自己的模型，并由这些子模型构建元模型。以此方式，数据细节不在各方之间泄露。本文研究联邦学习的模型解释方法，具体而言针对纵向联邦学习（其特征空间被划分为两方，即 host 与 guest）的特征重要性度量。对于 host 方解释纵向联邦学习模型的单个预测时，解释结果即特征重要性极有可能泄露来自 guest 方的受保护数据。我们提出一种在纵向联邦学习中平衡模型可解释性与数据隐私的方法，利用 Shapley 值揭示 host 特征的详细特征重要性，以及对联邦 guest 特征给出统一重要性值。我们的实验表明了解释联邦学习模型的稳健且信息丰富的结果。
引用
@article{arxiv.1905.04519,
title = {Interpret Federated Learning with Shapley Values},
author = {Guan Wang},
journal= {arXiv preprint arXiv:1905.04519},
year = {2019}
}