可信且实用的人工智能医疗：基于大语言模型的引导式转诊系统

大语言模型（LLMs）为医疗保健领域的各种应用提供了有价值的技术。然而，它们倾向于产生幻觉以及对专有系统的依赖，在涉及关键决策和严格数据隐私法规的环境（如医疗保健）中带来了挑战，在这些环境中，对此类系统的信任至关重要。通过结合人类和AI的优势并弥补其弱点，人机协作（HAIC）领域为应对这些挑战并从而提高信任度提供了一个前沿方向。本文提出了一种新颖的HAIC引导式转诊系统，该系统可以同时解析医疗报告以进行疾病分类，并将不确定的预测智能地转诊给人类。我们为此开发了高效、有效且开源的大语言模型方法，用于医疗保健领域的实际部署。我们进行了一项初步研究，展示了所提系统在实践中的有效性。此外，我们指出了在医疗保健中常见的不平衡数据场景下标准校准指标的缺点，并提出了一个简单而有效的解决方案：不平衡期望校准误差。