ReXTrust：面向 AI 生成放射报告的细粒度幻觉检测模型
计算与语言
2025-02-03 v3 人工智能
摘要
AI 生成的放射报告日益普及，亟需可靠的方法检测幻觉——可能影响患者护理的虚假或无依据的陈述。我们present了 ReXTrust，一种用于 AI 生成放射报告细粒度幻觉检测的新框架。我们的方案利用来自大型视觉语言模型的隐藏状态序列，为每个发现生成风险评分。我们在 MIMIC-CXR 数据集的子集上对 ReXTrust 进行了评估，表现优于现有方法，所有发现的 AUROC 为 0.8751，临床重要发现为 0.8963。我们的结果表明，利用模型隐藏状态的白箱方法可为医学 AI 系统提供可靠的幻觉检测，从而可能提高自动化放射报告的安全性和可靠性。
引用
@article{arxiv.2412.15264,
title = {ReXTrust: A Model for Fine-Grained Hallucination Detection in AI-Generated Radiology Reports},
author = {Romain Hardy and Sung Eun Kim and Du Hyun Ro and Pranav Rajpurkar},
journal= {arXiv preprint arXiv:2412.15264},
year = {2025}
}
备注
Accepted to AIMedHealth 10 pages, 5 figures