基于乘性平滑的特征归因稳定性保证
机器学习
2023-10-30 v2 人工智能
摘要
机器学习模型的解释方法往往不提供任何形式保证，且可能不反映底层决策过程。本工作中，我们将稳定性分析为可靠特征归因方法的一种性质。我们证明，若模型关于特征掩蔽足够Lipschitz，则稳定性的松弛变体得到保证。我们开发了一种称为乘性平滑（MuS）的平滑方法以实现此类模型。我们展示MuS克服了标准平滑技术的理论局限，且可集成于任意分类器和特征归因方法。我们在视觉和语言模型上以多种特征归因方法（如LIME和SHAP）评估MuS，并证明MuS赋予特征归因以非平凡的稳定性保证。
引用
@article{arxiv.2307.05902,
title = {Stability Guarantees for Feature Attributions with Multiplicative Smoothing},
author = {Anton Xue and Rajeev Alur and Eric Wong},
journal= {arXiv preprint arXiv:2307.05902},
year = {2023}
}