BeamAggR：用于多跳问答的多来源知识 Beam 聚合推理
计算与语言
2024-07-01 v1 人工智能
摘要
大型语言模型（LLM）已显示出强大的推理能力。然而，他们在处理知识密集型任务时仍会出现事实错误。检索增强推理代表了一种有前景的解决方法。然而，仍存在诸多挑战，包括复杂问题检索不准确和不充分，以及难以整合多来源知识。为此，我们提出了 Beam 聚合推理方法 BeamAggR，用于知识密集型多跳问答。BeamAggR 在每个问答步骤中探索和优先排序有前景的答案。具体而言，我们将复杂问题解析为树状结构，包括原子问题和复合问题，随后进行自下而上的推理。对于原子问题，LLM 在多来源知识上进行推理以获取答案候选。对于复合问题，LLM 将 beam 候选组合起来，通过概率聚合探索多个推理路径，并优先排序最有前景的轨迹。在四个开放域多跳推理数据集上进行大量实验表明，我们的方法在 SOTA 方法上显著优于 8.5%。此外，我们的分析揭示，BeamAggR 能更好地促进知识协作和答案聚合。
引用
@article{arxiv.2406.19820,
title = {BeamAggR: Beam Aggregation Reasoning over Multi-source Knowledge for Multi-hop Question Answering},
author = {Zheng Chu and Jingchang Chen and Qianglong Chen and Haotian Wang and Kun Zhu and Xiyuan Du and Weijiang Yu and Ming Liu and Bing Qin},
journal= {arXiv preprint arXiv:2406.19820},
year = {2024}
}
备注
Accepted to ACL 2024