一种解释并不适用于解释性交互机器学习
机器学习
2023-07-26 v2
摘要
当前的机器学习模型在许多领域取得了出色的成果，但同时也受到捷径学习和伪相关性的困扰。为解决此类缺陷，已有研究提出解释性交互机器学习（XIL）框架，通过利用用户对模型解释给出的反馈来修正模型。本文揭示了该框架中所使用解释的问题。具体而言，我们研究了通过多种解释方法同时进行模型修正。为此，我们指出“一种解释并不适用于XIL”，并建议在通过XIL修正模型时考虑多种解释。
引用
@article{arxiv.2304.07136,
title = {One Explanation Does Not Fit XIL},
author = {Felix Friedrich and David Steinmann and Kristian Kersting},
journal= {arXiv preprint arXiv:2304.07136},
year = {2023}
}