关于为局部代理解释器定义解释目标这一被忽视的问题
机器学习
2021-06-11 v1 人工智能
机器学习
摘要
用于解释机器学习模型预测的局部代理方法具有吸引人的特性，例如模型无关性及其建模灵活性。现有若干符合该描述且共享此目标的方法。然而，尽管它们具有共同的整体流程，却设定了不同的目标、从黑盒中提取不同的信息，从而生成多样且通常不可比的解释。本工作中，我们回顾多种方法间的异同，特别关注它们从模型中提取的信息，因为这对其输出（即解释）有重大影响。我们讨论了方法目标间缺乏一致性与清晰性对可解释性研究与实践的影响。
引用
@article{arxiv.2106.05810,
title = {On the overlooked issue of defining explanation objectives for local-surrogate explainers},
author = {Rafael Poyiadzi and Xavier Renard and Thibault Laugel and Raul Santos-Rodriguez and Marcin Detyniecki},
journal= {arXiv preprint arXiv:2106.05810},
year = {2021}
}