面向新生儿时间序列数据的可解释人工智能方法Grad-CAM评估
人工智能
2024-05-14 v1 计算机与社会
机器学习
摘要
随着医疗系统的数字化，人工智能在医疗领域的应用日益增多。尤其是机器学习在复杂任务（如时间序列分类）中显示出巨大的潜力，但往往以透明性和可理解性为代价。这导致人类对其产生信任不足，从而阻碍了实际应用。可解释人工智能旨在弥合这一鸿沟，通过提供对决策过程的洞察，但其实际效果尚不明确。本文提出一种基于用户研究的评估方法，对应用于新生儿呼吸时间序列数据分类的神经网络解释方法Grad-CAM进行评估。我们展示了不同利益相关者对可解释性方法的感知价值，揭示了实现实际透明度的困难以及许多参与者对更深入解释的渴望。
引用
@article{arxiv.2405.07590,
title = {Evaluating the Explainable AI Method Grad-CAM for Breath Classification on Newborn Time Series Data},
author = {Camelia Oprea and Mike Grüne and Mateusz Buglowski and Lena Olivier and Thorsten Orlikowsky and Stefan Kowalewski and Mark Schoberer and André Stollenwerk},
journal= {arXiv preprint arXiv:2405.07590},
year = {2024}
}
备注
\c{opyright} 2024 The authors. This work has been accepted to IFAC for publication under a Creative Commons Licence CC-BY-NC-ND. Accepted for the 12th IFAC Symposium on Biological and Medical Systems. 6 pages, 7 figures