MedHal：用于医学幻觉检测的评估数据集
群论
2025-04-14 v1
摘要
我们提出MedHal，这是一个新型的大规模数据集，专门用于评估模型是否能够检测医学文本中的幻觉。当前的幻觉检测方法在应用于医学等专业领域时面临严重限制，而这些领域的错误措施后果严重。现有医学数据集要么规模太小，仅包含几百个样本，要么仅关注单一任务，如问答或自然语言推理。MedHal通过以下方式弥补了这些差距：（1）纳入多样化的医学文本来源和任务；（2）提供大量标注样本，可用于训练医学幻觉检测模型；（3）包含事实不一致性的解释，以指导模型学习。我们通过训练和评估一个基线医学幻觉检测模型，展示了MedHal的实用性，结果表明其优于通用幻觉检测方法。该资源能够更高效地评估医学文本生成系统，减少对高成本专家审阅的依赖，从而可能加速医学AI研究的发展。
引用
@article{arxiv.2504.08595,
title = {Orders of Products of Slanted Class Transpositions},
author = {V. G. Bardakov and A. L. Iskra},
journal= {arXiv preprint arXiv:2504.08595},
year = {2025}
}
备注
13 pages