可解释人工智能方法应用于高维电子健康记录的比较研究：考察XAI的可用性

可解释人工智能（XAI）是人工智能中一个新兴领域。其旨在产生一种信任的示范性因素，对于人类主体而言这通过交流手段实现，而机器学习（ML）算法无法单独产生，这说明有必要增加一层对模型输出的支撑。当涉足医疗领域时，我们会看到在涉及人类主体时出现的挑战，信任机器来关照人类生计的意识形态带来了伦理困境——使得信任成为人类专家接受机器决策的基础。本文旨在应用XAI方法，论证可解释架构作为医疗领域支持ML预测与人类专家判断的第三层之可用性；XAI方法在局部和全局层面对给定模型输出的特征贡献进行可视化。本文工作使用XAI来确定针对高维数据驱动问题的特征重要性，以向领域专家揭示可识别的趋势，并对应用于ML算法的模型无关方法进行比较。同时给出了玻璃盒方法相对于表格数据黑盒能力的性能度量作为比较。未来工作旨在开展用户研究，使用度量评估人类专家对所给定模型的可用性与看法。