致 XAI 社区：我们需要谈谈！当前 XAI 研究中的根本性误解
人工智能
2023-06-08 v1 机器学习
摘要
尽管该领域取得了进展，当前 XAI（可解释人工智能）研究的很大一部分仍缺乏坚实的概念、伦理或方法论基础。遗憾的是，这些无根据的部分并未减少，而是持续增长。许多解释技术仍在不澄清其目的的情况下被提出，反而以愈发花哨的热力图或看似相关实则不然的基准来宣传。此外，解释技术的动机包含可疑目标，例如建立信任，或依赖于关于深度学习算法所学习“概念”的强假设。本文中，我们强调并讨论当前 XAI 研究中的这些及其他误解，并建议采取步骤使 XAI 成为更具实质的研究领域。
引用
@article{arxiv.2306.04292,
title = {Dear XAI Community, We Need to Talk! Fundamental Misconceptions in Current XAI Research},
author = {Timo Freiesleben and Gunnar König},
journal= {arXiv preprint arXiv:2306.04292},
year = {2023}
}
备注
A revised version of this preprint has been accepted at the World XAI Conference. It will be referenced as soon as it is published