用于临床与远程健康应用的可解释AI：基于表格与时间序列数据的综述
机器学习
2022-09-15 v1 人工智能
摘要
如今，人工智能（AI）已成为医疗健康应用（包括临床与远程）的基本组成部分，但性能最佳的AI系统往往过于复杂而难以自我解释。可解释AI（XAI）技术旨在揭示系统预测与决策背后的推理，当处理敏感的个人健康数据时，它们变得更为关键。值得注意的是，XAI在不同研究领域和数据类型上并未获得同等关注，尤其在医疗健康领域。特别地，许多临床与远程健康应用分别基于表格数据和时间序列数据，而XAI在这些数据类型上通常不常被分析，而计算机视觉和自然语言处理（NLP）才是参考应用。为概述医疗领域中最适合表格与时间序列数据的XAI方法，本文综述了过去5年的文献，阐明了所生成解释的类型以及为评估其相关性与质量所做的努力。具体而言，我们将临床验证、一致性评估、客观且标准化的质量评估，以及以人为中心的质量评估确定为确保对最终用户有效解释的关键特征。最后，我们强调了该领域的主要研究挑战以及现有XAI方法的局限性。
引用
@article{arxiv.2209.06528,
title = {Explainable AI for clinical and remote health applications: a survey on tabular and time series data},
author = {Flavio Di Martino and Franca Delmastro},
journal= {arXiv preprint arXiv:2209.06528},
year = {2022}
}