Halo：开源弱大语言模型中幻觉的估计与削减
计算与语言
2023-09-15 v4 人工智能
摘要
大语言模型（LLMs）已经彻底改变了自然语言处理（NLP）。尽管便于研究和实际应用，但参数较少的开源 LLM 相较于其更大的同类模型往往存在严重的幻觉问题。本文关注于测量并减少 BLOOM 7B 中的幻觉，BLOOM 7B 是此类可公开用于研究和商业应用的较弱开源 LLM 的代表。我们引入了 HaloCheck，一个轻量级的黑盒无知识框架，旨在量化 LLM 中幻觉的严重程度。此外，我们探索了知识注入和师生方法等技术，以缓解低参数 LLM 中的幻觉。我们的实验有效地展示了在这些 LLM 的困难领域中的幻觉削减。
引用
@article{arxiv.2308.11764,
title = {Halo: Estimation and Reduction of Hallucinations in Open-Source Weak Large Language Models},
author = {Mohamed Elaraby and Mengyin Lu and Jacob Dunn and Xueying Zhang and Yu Wang and Shizhu Liu and Pingchuan Tian and Yuping Wang and Yuxuan Wang},
journal= {arXiv preprint arXiv:2308.11764},
year = {2023}
}