针对大语言模型主题建模中的主题粒度与幻觉问题
计算与语言
2024-05-02 v1
摘要
大型语言模型 (LLM) 凭借其强大的零样本主题提取能力，提供了概率性主题建模和封闭集主题分类方法的替代方案。作为零样本主题提取器，LLM 预期能够理解人类指令，生成与给定文档相关且不产生幻觉的主题。然而，LLM 基于的主题建模方法往往面临难以生成严格遵循人类指令中指定粒度的主题问题，常导致大量近重复主题。此外，针对 LLM 生成幻觉主题的方法尚未得到探讨。本文聚焦于改善 LLM 基于主题建模中主题粒度和幻觉问题。为此，我们引入一种新方法，利用直接偏好优化 (DPO) 对开源 LLM（如 Mistral-7B）进行微调。该方法不依赖传统的人类标注来排序偏好答案，而是采用重构管道修改 LLM 生成的原始主题，从而实现快速高效的训练和推理框架。比较实验表明，我们的微调方法不仅显著提高了 LLM 产生更连贯、相关且精确主题的能力，还减少了幻觉主题的数量。
引用
@article{arxiv.2405.00611,
title = {Addressing Topic Granularity and Hallucination in Large Language Models for Topic Modelling},
author = {Yida Mu and Peizhen Bai and Kalina Bontcheva and Xingyi Song},
journal= {arXiv preprint arXiv:2405.00611},
year = {2024}
}