Self-DC:何时推理何时行动?用于组合未知问题的自我分治框架
计算与语言
2025-01-28 v2 人工智能
摘要
以往的研究通常集中于利用大语言模型(LLM)的内部知识来回答已知问题(即 internal reasoning,如 generate-then-read)。相反,对于超出其已知范围的问题,这些模型依赖于外部知识检索来提供准确响应(即 external acting,如 retrieve-then-read)。然而,很少有工作考虑那些由多个已知和未知子问题组成的组合问题,这需要动态地结合前两种方法,以在有效性和效率之间取得更好的平衡。为此,我们提出了 \textbf{Self} \textbf{D}ivide-and-\textbf{C}onquer (\textit{\texttt{Self-DC}}) 框架,伴随首个 \textbf{C}ompositional \textbf{u}nknown \textbf{Q}uestion-\textbf{A}nswering 数据集(CuQA)。该框架使 LLM 能够根据需要自适应地选择使用内部知识或检索外部知识,从而在有效性和效率之间取得更好的平衡。实验结果表明,\textit{\texttt{Self-DC}} 在两个数据集上实现了与多个强大基线相当甚至更好的性能,而所需的外部调用次数大幅减少。
引用
@article{arxiv.2402.13514,
title = {Self-DC: When to Reason and When to Act? Self Divide-and-Conquer for Compositional Unknown Questions},
author = {Hongru Wang and Boyang Xue and Baohang Zhou and Tianhua Zhang and Cunxiang Wang and Huimin Wang and Guanhua Chen and Kam-fai Wong},
journal= {arXiv preprint arXiv:2402.13514},
year = {2025}
}