SemEval-2024 任务 6 中的 MALTO：利用合成数据进行 LLM 幻觉检测
计算与语言
2025-12-19 v1 机器学习
摘要
在自然语言生成（NLG）中，当代大型语言模型（LLM）面临诸多挑战，例如生成流畅但不准确的输出以及依赖以流畅度为中心的评估指标。这通常会导致神经网络出现“幻觉”。SHROOM 挑战赛专注于自动识别生成文本中的这些幻觉。为了解决这些问题，我们引入了两个关键组件：一个结合了 LLM 辅助伪标记和句子重述的数据增强流水线，以及一个由三个在自然语言推理（NLI）任务上预训练并在多样化数据集上微调的模型组成的投票集成。
引用
@article{arxiv.2403.00964,
title = {MALTO at SemEval-2024 Task 6: Leveraging Synthetic Data for LLM Hallucination Detection},
author = {Federico Borra and Claudio Savelli and Giacomo Rosso and Alkis Koudounas and Flavio Giobergia},
journal= {arXiv preprint arXiv:2403.00964},
year = {2025}
}
备注
Under revision at SemEval 2024