检测 LLM 生成文本中误导性事实的一致性方法

大型语言模型（LLMs）虽然在文本生成方面表现卓越，却常会产生误导性信息，生成不基于真实世界知识的文本。这在医疗、金融和客户支持等领域可能导致严重风险。使用 LLMs 的典型方式是通过 LLM 供应商提供的 API，其中无法获取模型权重或微调模型。通常需要进行多次 LLM API 调用才能检测误导性信息的现有方法，这会增加延迟和 API 成本。我们引入了CONFACTCHECK，这是一种高效的误导性检测方法，不依赖任何外部知识库，基于一种简单直观的想法：生成文本中对事实性问题的回应应在单个 LLM 内部以及跨不同 LLM 之间保持一致。对覆盖事实文本生成和开放式生成的多个数据集进行严格实证评估表明，CONFACTCHECK能够在更少资源的情况下检测误导性事实，准确率显著高于 operate in similar 条件下的现有基准方法。我们的代码可在此处获取。