一种用于缓解幻觉的演化大语言模型
计算与语言
2025-07-08 v1 人工智能
摘要
像 ChatGPT 和 Gemini 这样的大语言模型的出现，标志着以高影响力应用为特征的人工智能时代，这些应用生成文本、图像和视频。然而，这些模型通常伴随一个关键挑战，称为幻觉：自信地呈现不准确或虚构的信息。当这些模型被应用于医疗保健和法律等专业领域时，这一问题引起了严重关切，因为这些领域对信息的准确性和精确性是绝对要求。在本文中，我们提出了 EvoLLMs，这是一个受进化计算启发的创新框架，通过自动生成高质量的问答（QA）数据集来最小化幻觉。EvoLLMs 使用基因算法，模拟选择、变异和突变等进化过程，以指导大语言模型生成准确、具有上下文相关性的问答对。比较分析显示，EvoLLMs 在深度、相关性和覆盖性等关键指标上 consistently 优于人类生成的数据集，同时在缓解幻觉方面几乎匹配人类水平。这些结果凸显了 EvoLLMs 作为 QA 数据集生成的稳健且高效的解决方案，显著减少了手动精选所需的时间和资源。
引用
@article{arxiv.2412.02790,
title = {An Evolutionary Large Language Model for Hallucination Mitigation},
author = {Abdennour Boulesnane and Abdelhakim Souilah},
journal= {arXiv preprint arXiv:2412.02790},
year = {2025}
}