ContextualSHAP：通过上下文语言生成增强 SHAP 解释

可解释人工智能（XAI）已成为一个日益重要的研究领域，尤其是在机器学习模型被部署在高风险领域时。在各种 XAI 方法中，SHAP（SHapley Additive exPlanations）因其能够为不同的机器学习模型提供全局和局部解释而备受关注。虽然 SHAP 能有效可视化特征重要性，但它通常缺乏对最终用户（尤其是没有技术背景的用户）有意义的上下文解释。为了弥补这一差距，我们提出了一个 Python 包，通过将 SHAP 与大语言模型（LLM）集成来扩展 SHAP，具体采用 OpenAI 的 GPT 生成上下文相关的文本解释。该集成由用户定义的参数（如特征别名、描述和附加背景信息）引导，以将解释定制到模型上下文和用户视角。我们假设这种增强可以提高 SHAP 解释的可理解性感知。为评估所提包的有效性，我们在医疗相关案例研究中应用了该方法，并进行了涉及真实最终用户的用户评估。基于李克特量表调查和后续访谈的结果表明，生成的解释相比纯可视化输出被认为更具可理解性和上下文适当性。虽然这些结果尚属初步，但它们表明将可视化与上下文文本相结合可能有助于实现更用户友好、更可信的模型解释。