超越黑箱AI：用于痴呆症护理的可解释混合系统

近期大型语言模型（LLM）的崛起重新点燃了人工智能（AI）系统能助力医疗诊断的希望。尽管取得惊人的数据集表现，LLM助理仍未在临床一线实现可衡量的改进。本 scoping review 旨在突出AI在临床实践中受限的领域，特别是痴呆症诊断与护理。单独的机器学习模型在模式识别方面表现出色，但很少提供可操作、可解释的指导，削弱了临床医生的信任。相邻使用LLM并未提升诊断准确率或速度。关键限制源于数据驱动范式：黑箱输出缺乏透明度、易产生幻觉、缺乏因果推理。结合统计学习与专家规则知识的混合方法，贯穿整个过程并涉及临床医生，有助于恢复可解释性。它们更符合现有临床工作流程，如PEIRS和ATHENA-CDS等实例。未来的决策支持应优先保证解释一致性，通过将预测与临床有意义的原因关联来实现。这可以通过神经符号AI或混合AI实现，将LLM的语言能力与人类因果专长结合。AI研究者已致力于此方向，可解释AI和神经符号AI是AI进一步发展的下一步逻辑。然而，它们仍基于数据驱动的知识集成，而非以人为参与为核心。未来的研究不应仅以准确率为衡量标准，而应衡量临床医生理解力、工作流程适配度及患者预后等方面的改进。更深入地理解有助于提升人机交互的要素，对于AI系统成为临床实践的一部分至关重要。