神经网络 ECG 模型的可解释分解

深度学习（DL）改善医疗实践及其临床结果的能力面临一个迫近的障碍：模型解释。若无法描述输出如何生成，合作医师既不能在模型结论与其自身相冲突时加以辨析，也无法学会预判模型行为。当前研究旨在解释诊断 ECG 记录的神经网络，随着记录变得更具个性化且广泛部署，这具有巨大的潜在影响。超越 ECG 的普适性影响在于能够提供丰富的试验平台以开发医学中的解释技术。然而，深度神经网络（DNN）的解释技术往往本质上是启发式与观察性的，缺乏人们在数学方程分析中所期望的数学严谨性。本文的动机是提供第三种选择，一种科学方法。我们将模型输出本身视为一种待通过组成部分及其行为方程来解释的现象。我们认为这些组成部分也应当是“黑箱”——即用启发式解释、且与原始模型有明确功能关联的额外目标。我们展示了如何严谨地将一个 DNN 分解为由黑箱变量组成的层次化方程。这不是像将有机体分为细胞那样细分为物理部件；而只是将一种方程分解为一组抽象函数的选择。然而，对于在 PhysioNet 2017 Challenge 数据上训练以识别正常 ECG 波形的 DNN，我们证明了这一选择产生了可解释的组成部分模型，这些模型与对应输入区域中 ECG 样本的视觉合成草图相对应。此外，递归提炼了这一解释：组成部分黑箱的进一步分解对应于形态上更纯净的 ECG 分区。