可解释人工智能（XAI）：当前挑战与未来机遇的系统性元综述
机器学习
2021-11-15 v1 人工智能
摘要
过去十年中，人工智能（AI）取得了显著进展，促使算法被广泛采用以解决各类问题。然而，这一成功伴随着模型复杂度的增加以及采用缺乏透明度的黑盒 AI 模型。为应对该需求，可解释人工智能（XAI）被提出以使 AI 更透明，从而推进 AI 在关键领域的应用。尽管文献中已有若干关于 XAI 主题的综述识别了 XAI 中的挑战与潜在研究方向，但这些挑战与研究方向较为分散。因此，本研究呈现一项关于 XAI 中挑战与未来研究方向的系统性元综述，组织为两个主题：（1）XAI 中的一般挑战与研究方向；（2）基于机器学习生命周期阶段（设计、开发与部署）的 XAI 挑战与研究方向。我们相信，我们的元综述通过为 XAI 领域的未来探索提供指南，对 XAI 文献有所贡献。
引用
@article{arxiv.2111.06420,
title = {Explainable AI (XAI): A Systematic Meta-Survey of Current Challenges and Future Opportunities},
author = {Waddah Saeed and Christian Omlin},
journal= {arXiv preprint arXiv:2111.06420},
year = {2021}
}
备注
29 pages, 2 figures, 4 tables