多模态可解释人工智能：方法进展与未来研究方向的全面综述
人工智能
2024-07-02 v2
摘要
尽管人工智能（AI）已在众多数据分析任务中取得了令人瞩目的成果，但这通常伴随着所开发系统在透明性与可信度方面的显著不足。为应对后一挑战，所谓的可解释人工智能（XAI）研究领域应运而生，其目标之一在于估计有关所采用模型推理过程的有意义解释。本研究聚焦于系统分析多模态 XAI（MXAI）领域的近期进展，该领域包含在前瞻预测与解释任务中涉及多种模态的方法。具体而言，我们首先描述多模态场景下用于学习/评估解释的相关 AI 增强预测任务与公开可用数据集。随后，基于以下关键准则对文献中的 MXAI 方法给出系统而全面的分析：a) 所涉及的模态数量（在所用 AI 模块中），b) 生成解释的处理阶段，以及 c) 用于产生解释的方法论类型（即实际机制与数学形式化）。接着，对用于 MXAI 方法评估的度量指标进行了透彻分析。最后，就当前挑战与未来研究方向展开广泛讨论。
引用
@article{arxiv.2306.05731,
title = {Multimodal Explainable Artificial Intelligence: A Comprehensive Review of Methodological Advances and Future Research Directions},
author = {Nikolaos Rodis and Christos Sardianos and Panagiotis Radoglou-Grammatikis and Panagiotis Sarigiannidis and Iraklis Varlamis and Georgios Th. Papadopoulos},
journal= {arXiv preprint arXiv:2306.05731},
year = {2024}
}
备注
49 pages, 11 figures