利用 Shapley 值解释漂移
机器学习
2024-01-19 v1 人工智能
摘要
机器学习模型在用于预测未训练过的数据结果时，其性能往往会下降。这些场景在现实世界中经常发生，即由于大流行等重大事件，数据分布逐渐或突然发生变化。机器学习研究已尝试提出许多能够抵御此类概念漂移（Concept drift）的技术。然而，目前尚无原则性框架来识别导致模型性能漂移的驱动因素。在本文中，我们提出了一种名为 DBShap 的新颖框架，该框架利用 Shapley 值来识别漂移的主要贡献者并量化其各自的贡献。所提出的框架不仅量化了单个特征在驱动漂移中的重要性，还将输入与输出之间潜在关系的变化纳入可能的驱动因素。DBShap 提供的解释可用于理解漂移的根本原因，并利用这些信息使模型对漂移具有鲁棒性。
引用
@article{arxiv.2401.09756,
title = {Explaining Drift using Shapley Values},
author = {Narayanan U. Edakunni and Utkarsh Tekriwal and Anukriti Jain},
journal= {arXiv preprint arXiv:2401.09756},
year = {2024}
}