面向噪声和异构知识源的多粒度训练策略以实现稳健的多跳推理
计算与语言
2025-02-11 v1
摘要
多源多跳问答(QA)是自然语言处理中的一个具有挑战性的任务,由于需要动态集成异构知识源并进行多步骤推理。现有方法常受到级联误差、知识冲突处理不足以及计算效率低下的制约。本文提出了自适应多源知识导向推理框架(AMKOR),该框架利用大语言模型(LLM)动态融合参数化知识和检索到的知识,同时通过概率性束搜索探索推理轨迹。AMKOR还通过多粒度学习策略进一步增强,优化局部推理步骤和全局答案准确性。在包括HotpotQA和MuSiQue在内的四个广泛使用的数据集上进行的实验表明,AMKOR实现了最先进的性能,在推理准确性和鲁棒性方面显著优于基线方法。额外分析确认了其可扩展性、对噪声知识的适应性以及处理复杂多跳任务的优势。本工作通过有效结合推理质量与效率,为多源多跳QA树立了新的基准。
引用
@article{arxiv.2502.05944,
title = {Multi-granular Training Strategies for Robust Multi-hop Reasoning Over Noisy and Heterogeneous Knowledge Sources},
author = {Jackson Coleman and Isaiah Lawrence and Benjamin Turner},
journal= {arXiv preprint arXiv:2502.05944},
year = {2025}
}