基于 MQUAKE 框架的 LLM 多跳推理优化研究
计算与语言
2025-09-08 v1 机器学习
摘要
准确回答复杂问题一直是大语言模型（LLM）面临的重大挑战。为解决这一问题，本文在 MQUAKE 框架内研究的基础上，提出了一种针对复杂问题的多跳问题分解方法。利用 LLAMA3 模型，我们系统地研究了模型训练前后知识图谱中的多跳问题分解对模型理解力和推理准确性的影响。在实验中，我们系统地划分并转换了 MQUAKE-T 数据集，将其转换为两种不同格式：一种是为直接回答复杂问题而设计的单跳数据集，另一种是使用多跳问题分解方法构建的多跳数据集。然后，我们在这些数据集上对 LLAMA3 模型进行了微调并进行了推理测试。我们的结果表明，在不微调 LLM 的情况下，基于多跳问题分解方法的预测性能显著优于直接回答复杂问题的方法。使用 LoRA（低秩自适应）方法进行微调后，与未训练的基线相比，两种方法的性能均有所提升。至关重要的是，利用多跳分解的方法始终保持其优越性。这些发现验证了多跳分解方法在训练前后的有效性，证明了其能够有效增强 LLM 回答复杂问题的能力。
引用
@article{arxiv.2509.04770,
title = {Research on Multi-hop Inference Optimization of LLM Based on MQUAKE Framework},
author = {Zucheng Liang and Wenxin Wei and Kaijie Zhang and Hongyi Chen},
journal= {arXiv preprint arXiv:2509.04770},
year = {2025}
}