构建医学领域可解释AI系统需要什么？
人工智能
2018-01-02 v1 机器学习
摘要
人工智能（AI）一般而言、机器学习（ML）具体而言，在许多不同应用域中展现出令人印象深刻的实用成功，例如在自动驾驶、语音识别或推荐系统中。在极大数据集上训练或采用强化学习方法的深度学习方法，甚至在视觉任务中超越人类表现，特别是在玩Atari等游戏或掌握围棋方面。即便在医学领域也有显著成果。此类模型的核心问题是被视为黑箱模型，且即使我们理解其底层数学原理，它们缺乏显式的声明式知识表示，因而难以生成底层解释性结构。这要求系统能使决策透明、可理解且可解释。我们方法的巨大动机来自日益增长的法律与隐私考量。2018年5月25日生效的新欧洲通用数据保护条例，将使黑箱方法在商业中难以使用。这并非禁止自动学习方法或强制随时解释一切，但必须有可能按需使结果可回溯。本文概述我们在相对新颖的可解释AI（explainable-AI）领域中部分研究课题，聚焦医学应用这一非常特殊的领域。这是因为医学专业人员主要处理分布式异构且复杂的数据源。本文集中于三类来源：图像、*omics数据与文本。我们认为可解释AI的研究总体上有助于促进AI/ML在医学领域的落地，并具体有助于提升透明度与信任。
引用
@article{arxiv.1712.09923,
title = {What do we need to build explainable AI systems for the medical domain?},
author = {Andreas Holzinger and Chris Biemann and Constantinos S. Pattichis and Douglas B. Kell},
journal= {arXiv preprint arXiv:1712.09923},
year = {2018}
}
备注
This is a survey article and section 3.1. draws heavily from arXiv:1706.07979