解释以决策：关于可解释人工智能在 AI 辅助决策中作用的人本综述
人机交互
2023-12-20 v1 机器学习
摘要
近年来机器学习模型（特别是深度学习和 Transformer 模型）前所未有的性能，促使其在金融、医疗和教育等多个领域得到应用。然而，这些模型易出错且无法自主使用，尤其是在技术或伦理上错误成本高昂的决策场景中。此外，由于这些模型的黑盒性质，终端用户往往难以理解模型的输出及其底层过程，从而难以信任并利用模型结果进行决策。可解释人工智能（XAI）通过利用包括可视化技术在内的方法，解释和阐释模型的内部运作机制及其得出结果的过程，从而辅助终端用户理解模型。尽管近期已有大量研究关注模型性能和 XAI 方法，但关于解释对人机团队绩效影响的研究较少。本文综述了近期关于 XAI 对人机决策影响的实证研究，识别了挑战，并提出了未来的研究方向。
引用
@article{arxiv.2312.11507,
title = {Explain To Decide: A Human-Centric Review on the Role of Explainable Artificial Intelligence in AI-assisted Decision Making},
author = {Milad Rogha},
journal= {arXiv preprint arXiv:2312.11507},
year = {2023}
}