MedSafetyBench：评估与提升大语言模型的医疗安全性
人工智能
2024-10-11 v5
摘要
随着大语言模型（LLMs）开发出日益复杂的能力并在医疗环境中找到应用，鉴于其对个人和公共卫生、患者安全及人权的深远影响，评估其医疗安全性变得至关重要。然而，人们对 LLMs 背景下的医疗安全性概念知之甚少，更不用说如何评估和提升它。为解决这一空白，我们首先基于美国医学会提出的医学伦理原则定义了 LLMs 中的医疗安全性概念。随后，我们利用这一理解推出了 MedSafetyBench，这是首个旨在衡量 LLMs 医疗安全性的基准数据集。我们通过使用 MedSafetyBench 评估和提升 LLMs 的医疗安全性来展示其效用。我们的结果表明，公开可用的医疗 LLMs 不符合医疗安全标准，而使用 MedSafetyBench 对其进行微调可在保持其医疗性能的同时提升其医疗安全性。通过引入这一新的基准数据集，我们的工作使得对 LLMs 医疗安全性现状的系统性研究成为可能，并激发了该领域的未来工作，为减轻 LLMs 在医学中的安全风险铺平了道路。基准数据集和代码可在 https://github.com/AI4LIFE-GROUP/med-safety-bench 获取。
引用
@article{arxiv.2403.03744,
title = {MedSafetyBench: Evaluating and Improving the Medical Safety of Large Language Models},
author = {Tessa Han and Aounon Kumar and Chirag Agarwal and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2403.03744},
year = {2024}
}