SG-FSM：基于有限状态机的自引导零样本提示范式用于多跳问答
计算与语言
2024-10-23 v1
摘要
大型语言模型（LLMs）如 OpenAI-o1 通过链律提示（chain-of-thought prompting）在自然语言推理任务中展现出惊人的能力。然而，由于幻觉、错误传播和上下文长度有限等问题，多跳问答（Multi-hop Question Answering, MHQA）仍是许多现有模型的挑战。为解决这些问题并提升 LLMs 在 MHQA 上的表现，我们提出了自引导有限状态机（Self-Guiding Finite State Machine, SG-FSM），旨在强化多跳推理能力。不同于传统链律方法，SG-FSM 通过迭代拆分复杂问题为子问题并自我纠正来提升准确性。它逐个处理子问题，根据当前上下文和结果动态决定下一步，功能类似于自动机。实验在各种基准数据集上均显示该方法的有效性，在像 Musique 等具有挑战性的数据集上超越了强大 baselines。SG-FSM 减少了幻觉现象，使即使在中间出现错误的情况下也能恢复正确的最终答案。它还提高了对指定输出格式的遵循程度，显著简化了评估过程。
引用
@article{arxiv.2410.17021,
title = {SG-FSM: A Self-Guiding Zero-Shot Prompting Paradigm for Multi-Hop Question Answering Based on Finite State Machine},
author = {Xiaochen Wang and Junqing He and Liang Chen and Reza Haf Zhe Yang and Yiru Wang and Xiangdi Meng and Kunhao Pan and Zhifang Sui},
journal= {arXiv preprint arXiv:2410.17021},
year = {2024}
}