HALO：一种用于表示和分类大语言模型中幻觉的本体
人工智能
2024-04-03 v2 计算与语言
摘要
生成式AI的最新进展，包括像ChatGPT这样的大语言模型（LLM），在从自然语言处理到知识发现和数据挖掘等领域开辟了重大机遇。然而，人们也越来越意识到这些模型容易出现诸如编造信息或“幻觉”以及在看似简单的问题上推理错误等问题。由于像ChatGPT这样的模型的流行，学术学者和公民科学家都记录了多种不同类型和严重程度的幻觉。尽管有这些工作，但缺乏一个形式化的模型来在细粒度级别描述和表示这些幻觉（带有相关的元数据）。在本文中，我们通过提出幻觉本体（HALO）来填补这一空白，这是一个用OWL编写的形式化、可扩展的本体，目前支持LLM中已知的六种不同类型的幻觉，并支持来源和实验元数据。我们还收集并发布了一个数据集，其中包含我们从多个独立网络来源归纳收集的幻觉，并展示了HALO可以成功地用于建模该数据集并回答能力问题。
引用
@article{arxiv.2312.05209,
title = {HALO: An Ontology for Representing and Categorizing Hallucinations in Large Language Models},
author = {Navapat Nananukul and Mayank Kejriwal},
journal= {arXiv preprint arXiv:2312.05209},
year = {2024}
}
备注
This paper has been accepted and orally presented in "SPIE Defense + Commercial Sensing (DCS 2024)" in National Harbor, Maryland, April 2024