为何我们在医疗领域确实需要可解释 AI
人机交互
2022-07-01 v1 人工智能
机器学习
摘要
近期经认证的人工智能（AI）医疗工具的大量涌现，重新引发了关于该技术采用的争论。此类争论的一条线索涉及可解释 AI（Explainable AI）及其使 AI 设备更透明、更可信的承诺。医疗 AI 领域一些活跃的声音对可解释 AI 技术的可靠性表达了担忧，质疑其在指南和标准中的使用和纳入。重新审视此类批评，本文就可解释 AI 的效用提供了平衡而全面的视角，聚焦于 AI 临床应用的具体性，并将其置于医疗干预的背景中。尽管存在合理担忧，我们反对其贬损者并主张，可解释 AI 研究计划对于人机交互仍居核心地位，且最终是我们抵御失控的主要工具，而这一危险无法仅通过严格的临床验证来预防。
引用
@article{arxiv.2206.15363,
title = {Why we do need Explainable AI for Healthcare},
author = {Giovanni Cinà and Tabea Röber and Rob Goedhart and Ilker Birbil},
journal= {arXiv preprint arXiv:2206.15363},
year = {2022}
}