探索患者对 ChatGPT 等 AI 驱动大语言模型用于自我诊断的临床建议的信任
人机交互
2024-02-14 v1
摘要
可信的临床建议至关重要，但在寻求专业医疗支持时却负担沉重。即使有医疗服务，可及性与经济负担也是获得专业临床建议的障碍。因此，个人往往诉诸自我诊断，利用医疗资料来验证家人和朋友的健康状况。然而，这种便捷的自我诊断方法需要投入学习精力，且往往效果不佳，当个人在没有专业指导的情况下寻求自我护理方法或治疗策略时，会带来风险。由大语言模型（LLM）支持的人工智能（AI）可能成为一种强大但具有风险的自我诊断临床建议工具，这是因为 LLM 存在幻觉问题，即产生不准确却具有欺骗性的信息。那么，我们能否信任像 ChatGPT-4 这样的 AI 驱动 LLM 为自我诊断提供的临床建议？我们通过出声思维观察对此问题进行了考察：一名患者使用 GPT-4 进行自我诊断和获取临床建议，同时一名医生利用其专业知识评估 ChatGPT 的回答。随后，我们对患者进行了半结构化访谈，以了解其对 AI 驱动 LLM 提供临床建议的信任度。我们得出结论，影响患者信任的混杂因素围绕其能力评估展开。本质上，信任等同于效能，这取决于基于 AI 代理的临床建议和建议所做出的决策是否能有效实现患者的健康目标。由于这种策略，患者倾向于更信任医生而非 AI 代理，认为受过教育且获授权的医生能提供有效的医疗指导。这种基于能力的信任也解释了为何患者通常认为经验丰富的医生比经验不足的医生更值得信赖。
引用
@article{arxiv.2402.07920,
title = {Exploring patient trust in clinical advice from AI-driven LLMs like ChatGPT for self-diagnosis},
author = {Delong Du and Richard Paluch and Gunnar Stevens and Claudia Müller},
journal= {arXiv preprint arXiv:2402.07920},
year = {2024}
}