构建可信 LLM：应对医疗健康 AI 中的幻觉问题
计算与语言
2023-11-06 v1 人工智能
计算机视觉与模式识别
机器学习
神经与进化计算
摘要
大型语言模型在极短时间内已 proliferated 至多个领域。然而，由于事实性、连贯性与幻觉等问题，医疗与卫健领域对其采纳存在犹豫。鉴于医疗的高风险性质，许多研究者甚至警告在这些问题解决前不应使用。在医疗中实施与部署 LLM 的关键在于使这些模型可信、透明（尽可能）且可解释。本文描述了构建可靠、可信且无偏模型的关键要素，以此作为其在医疗中采纳的必要条件。具体而言，我们聚焦于医疗语境下幻觉的量化、验证与缓解。最后，我们讨论了医疗中 LLM 的未来可能面貌。
引用
@article{arxiv.2311.01463,
title = {Creating Trustworthy LLMs: Dealing with Hallucinations in Healthcare AI},
author = {Muhammad Aurangzeb Ahmad and Ilker Yaramis and Taposh Dutta Roy},
journal= {arXiv preprint arXiv:2311.01463},
year = {2023}
}