NEURON：用于扎根临床可解释性的神经符号系统
人工智能
2026-05-05 v1
摘要
临床 AI 的采用受制于高性能模型的黑盒/灰盒本质，这些模型缺乏所需的本体论 grounding 和叙事透明度以满足专业水平的可解释性。我们提出 NEURON，一个旨在增强预测可靠性和临床可解释性的神经符号系统。NEURON 将 SNOMED CT 本体信息的结构表示与机器学习模型集成，以弥合原始数据与医学术语之间的差距。为促进人类对齐的交互，该系统利用基于检索增强生成（RAG）的 LLM 层将 SHAP 特征归因和患者特定临床笔记合成为连贯的、自然语言的解释。NEURON 基于 MIMIC-IV 数据集对急性心力衰竭死亡率预测进行验证，使 AUC 从 0.74-0.77 提升到 0.84-0.88，并在人类对齐指标方面显著优于原始 SHAP 可视化（0.85 vs. 0.50）。我们的结果表明，NEURON 提供了一个稳健、可扩展的工程解决方案，用于部署可信赖、以人类为中心的连接健康应用。
引用
@article{arxiv.2605.01189,
title = {NEURON: A Neuro-symbolic System for Grounded Clinical Explainability},
author = {Anuradha Chandrasekaran and Dimitrios Zikos and Mutlu Mete and Alan Pang and Brady D. Lund and Kewei Sha},
journal= {arXiv preprint arXiv:2605.01189},
year = {2026}
}