ArgMed-Agents：基于论证方案与LLM讨论的可解释临床决策推理
人工智能
2024-12-31 v3 多智能体系统
符号计算
摘要
在临床推理中使用大型语言模型（LLM）存在两大主要障碍。首先，尽管LLM在自然语言处理（NLP）任务中展现出巨大潜力，但其在复杂推理与规划方面的表现仍不及预期。其次，LLM使用不可解释的方法做出临床决策，这与临床医生的认知过程存在根本差异，从而导致用户的不信任。在本文中，我们提出了一个名为ArgMed-Agents的多智能体框架，旨在使基于LLM的智能体能够通过交互进行可解释的临床决策推理。ArgMed-Agents通过临床讨论论证方案（一种用于建模临床推理中认知过程的推理机制）执行自我论证迭代，随后将论证过程构建为表示冲突关系的有向图。最终，使用符号求解器识别一系列合理且连贯的论证来支持决策。我们构建了ArgMed-Agents的形式化模型，并提出了用于理论保证的猜想。ArgMed-Agents使LLM能够以自主的方式生成推理的解释，从而模仿临床论证推理的过程。设置实验表明，与其他提示方法相比，ArgMed-Agents不仅提高了复杂临床决策推理问题的准确率，更重要的是，它为用户提供了决策解释，增强了他们的信心。
引用
@article{arxiv.2403.06294,
title = {ArgMed-Agents: Explainable Clinical Decision Reasoning with LLM Disscusion via Argumentation Schemes},
author = {Shengxin Hong and Liang Xiao and Xin Zhang and Jianxia Chen},
journal= {arXiv preprint arXiv:2403.06294},
year = {2024}
}