基于Shapley值解释机器学习分类器鲁棒性的方法
机器学习
2022-11-07 v2 人工智能
摘要
使用与算法无关的方法来解释单个特征对预测结果的贡献是一个新兴的研究领域。虽然研究重点在于解释预测本身，但关于解释这些模型鲁棒性（即每个特征如何对实现该鲁棒性做出贡献）的工作却很少。在本文中，我们提出使用Shapley值来解释每个特征对模型鲁棒性的贡献，该鲁棒性通过接收者操作特征（ROC）曲线和ROC曲线下面积（AUC）来衡量。借助一个说明性示例，我们展示了所提出的解释ROC曲线以及可视化这些曲线中不确定性的思路。对于不平衡数据集，使用精确率-召回率曲线（PRC）被认为更为合适，因此我们也展示了如何借助Shapley值解释PRC。鲁棒性的解释可以在多个方面帮助分析人员，例如，它可以通过识别可移除的无关特征以降低计算复杂度来辅助特征选择。它还可以帮助识别对鲁棒性具有关键贡献或负贡献的特征。
引用
@article{arxiv.2209.04254,
title = {Shapley value-based approaches to explain the robustness of classifiers in machine learning},
author = {Guilherme Dean Pelegrina and Sajid Siraj},
journal= {arXiv preprint arXiv:2209.04254},
year = {2022}
}