常见随机神经网络在可靠临床决策支持中的不足

由于伦理和安全方面的担忧，人工智能在医疗决策中的广泛采用仍然受到阻碍。对于医疗环境中的基于人工智能的决策支持系统而言，可靠性和可信度至关重要。然而，常见的深度学习方法在数据偏移下倾向于过度自信。这种超出循证场景的不当外推可能会产生可怕的后果。这凸显了可靠估计局部不确定性并将其传达给最终用户的重要性。虽然随机神经网络被誉为解决这些问题的潜在方案，但本研究调查了它们在临床应用中的实际可靠性。我们将分析集中在使用 MIMIC3 研究中的电子健康记录（EHR）预测 ICU 住院患者死亡率的示范性用例上。对于 EHR 时间序列的预测，采用了仅编码器 Transformer 模型。通过结合贝叶斯神经网络层和模型集成等常见方法实现了模型函数的随机性。我们的模型在死亡率预测基准上达到了最先进的区分性能（AUC ROC: 0.868±0.011，AUC PR: 0.554±0.034）和校准度。然而，所选的随机深度学习方法严重低估了认知不确定性。我们为后验分布的责任性坍缩提供了启发式证明。我们的发现揭示了常用的随机深度学习方法在可靠识别分布外（OoD）样本方面的不足。在这两种方法中，由于功能后验存在严重偏差，无法防止无根据的模型置信度，这使得它们不适用于可靠的临床决策支持。这凸显了对已知数据点具有更严格强制或内在的距离感知能力的方法的需求，例如使用基于核的技术。