从可解释性到行动：面向临床心理健康筛查的生成式操作框架
计算与语言
2025-10-17 v1
摘要
可解释人工智能 (XAI) 被提出作为解锁机器学习在心理健康筛查 (MHS) 中潜力的关键组件。然而，仍存在实验室到临床之间的显著鸿沟。当前的 XAI 技术，如 SHAP 和 LIME，擅长生成技术上忠实的输出，如特征重要性得分，但未能为临床工作流程或患者理解而生成具有临床相关性和可操作性的见解。这一技术透明度与人类实用性之间的断裂是实际应用采纳的主要障碍。本文认为，这一鸿沟是一项翻译问题，提出了生成式操作框架，这是一种新型系统架构，利用大型语言模型 (LLM) 作为核心翻译引擎。该框架旨在摄取来自各类 XAI 工具的原始、技术性输出，并通过检索增强生成 (RAG) 将其与临床指南融合，从而自动生成人类可读、以证据为依据的临床叙述。为证明解决方案的有效性，我们提供了对所集成组件的系统性分析，追溯了从内在模型到生成式 XAI 的演进。我们展示了该框架如何直接解决关键操作障碍，包括工作流程集成、偏见缓解以及面向特定利益相关者的沟通。本文还提供了一项战略路线图，旨在将该领域从生成孤立数据点的范式，推进 towards 交付集成、可操作且可信赖的 AI 在临床实践中的应用。
引用
@article{arxiv.2510.13828,
title = {From Explainability to Action: A Generative Operational Framework for Integrating XAI in Clinical Mental Health Screening},
author = {Ratna Kandala and Akshata Kishore Moharir and Divya Arvinda Nayak},
journal= {arXiv preprint arXiv:2510.13828},
year = {2025}
}