超越准确性：风险敏感的医疗建议幻觉评估

大型语言模型正在越来越多地用于患者导向的医疗问答场景，其中幻觉输出的潜在危害差异巨大。然而，现有的幻觉标准和评估指标主要关注事实正确性，将所有错误视为等级相同的严重性，从而掩盖了临床相关的失效模式，特别是当模型生成不受支持但可操作的医疗语言时。我们提出一种风险敏感的评估框架，通过量化包含治疗指令、禁忌证、紧急线索及高风险药物提及等风险承载语言的幻觉。我们的做法不评估临床正确性，而是评估幻觉内容若被行动所带来的潜在影响。我们进一步将风险评分与相关性度量结合，以识别高风险、低 grounding 失效。我们将该框架应用于三个指令调优语言模型，采用受控的患者导向提示作为安全压力测试。我们的结果表明，表面行为相似的模型在风险轮廓上差异显著，而标准评估指标未能捕捉这些差异。这些发现凸显了将风险敏感性纳入幻觉评估的重要性，并表明评估的有效性严重依赖于任务和提示设计。