诊断推理提示揭示了大语言模型在医学中可解释性的潜力
计算与语言
2023-08-15 v1 人工智能
人机交互
摘要
在医学中使用大语言模型（LLMs）的主要障碍之一，是认为它们采用不可解释的方法做出与临床医生认知过程本质不同的临床决策。在本稿件中，我们开发了新颖的诊断推理提示，以研究 LLMs 是否能够执行临床推理来准确形成诊断。我们发现，GPT4 可被提示去模仿临床医生常见的临床推理过程，且不牺牲诊断准确性。这一点意义重大，因为一个能够使用临床推理提供可解释依据的 LLM，为医生提供了一种评估 LLMs 是否可信任用于患者照护的手段。新颖的提示方法有潜力揭开 LLMs 的黑箱，使其向在医学中安全有效使用迈进一大步。
引用
@article{arxiv.2308.06834,
title = {Diagnostic Reasoning Prompts Reveal the Potential for Large Language Model Interpretability in Medicine},
author = {Thomas Savage and Ashwin Nayak and Robert Gallo and Ekanath Rangan and Jonathan H Chen},
journal= {arXiv preprint arXiv:2308.06834},
year = {2023}
}