利用模型无关交互式特征归因提升性能与样本效率
机器学习
2023-06-30 v1 人工智能
摘要
模型无关的特征归因能够为复杂 ML 模型提供局部洞察。若解释正确,领域专家可验证并信任模型的决策。然而,若其与专家知识相悖,已有工作仅修正无关特征以改进模型。为支持无限制交互,本文为两种流行的解释方法(Occlusion 与 Shapley 值)提供模型无关的实现,以在复杂模型中强制产生完全不同的归因。对于特定样本集,我们利用修正后的特征归因生成额外的局部数据,并用于重新训练模型,使模型对这些样本给出正确解释。通过在多种模型上的模拟与真实数据实验,我们展示了所提方法仅基于修正解释扩充训练集便可显著提升模型性能。将我们的交互式解释加入主动学习设置可显著提高样本效率,并优于已有的解释性交互策略。此外,我们探讨了领域专家如何提供足够正确的特征归因以改进模型。
引用
@article{arxiv.2306.16431,
title = {Increasing Performance And Sample Efficiency With Model-agnostic Interactive Feature Attributions},
author = {Joran Michiels and Maarten De Vos and Johan Suykens},
journal= {arXiv preprint arXiv:2306.16431},
year = {2023}
}