大语言模型与用户信任：自指学习循环的后果及医疗保健专业人员的技能退化

本文探讨了临床医生对LLM的信任、数据源从主要由人类生成向AI生成内容的转变，以及随后对LLM精确度和临床医生能力的影响之间的关系。确定的主要担忧之一是随着LLM越来越依赖其自身输出进行学习而产生的潜在反馈循环，这可能导致输出质量下降，并由于减少了对基本诊断过程的参与而导致临床医生技能退化。虽然目前还处于理论阶段，但随着LLM在医疗保健领域的整合不断深入，这种反馈循环构成了重大挑战，强调了需要进行主动对话并采取战略措施以确保LLM技术的安全有效使用。我们调查的一个关键结论是用户专业知识的关键作用，以及以审慎的态度信任和验证LLM输出的必要性。本文强调了专家用户（尤其是临床医生）如何通过卸载常规任务来利用LLM提高生产力，同时保持严格的监督以识别和纠正AI生成内容中潜在的不准确之处。这种信任与怀疑的平衡对于确保LLM增强而不是削弱患者护理质量至关重要。此外，我们深入探讨了与LLM自指学习循环和医疗保健专业人员技能退化相关的潜在风险。LLM在回音室中运行的风险——即AI生成内容反馈到学习算法中——威胁着数据池的多样性和质量，可能固化偏见并降低LLM的有效性。