赋予语言模型主动询问能力以实现更深层次理解
计算与语言
2024-02-07 v1 人工智能
摘要
大型语言模型（LLMs）的兴起彻底改变了我们通过自然语言与人工智能系统交互的方式。然而，LLMs 常因用户意图不确定而误解查询，导致回复帮助不大。在自然人类交互中，人们会通过有针对性的提问来寻求澄清，以揭示模糊信息。因此，本文提出 LaMAI（具有主动询问能力的语言模型），旨在赋予 LLMs 同等的交互参与水平。LaMAI 利用主动学习技术提出最具信息量的问题，促进动态双向对话。这种方法不仅缩小了上下文差距，还优化了 LLMs 的输出，使其更贴近用户期望。我们在 LLMs 对话上下文有限的多种复杂数据集上进行的实证研究，证明了 LaMAI 的有效性。该方法将答案准确率从 31.9% 提升至 50.9%，优于其他领先的问答框架。此外，在涉及人类参与者的场景中，LaMAI 在超过 82% 的情况下，始终能生成优于或可比于基线方法的回答。LaMAI 与多种 LLMs 的成功集成进一步证明了其适用性，凸显了其在交互式语言模型未来发展的潜力。
引用
@article{arxiv.2402.03719,
title = {Empowering Language Models with Active Inquiry for Deeper Understanding},
author = {Jing-Cheng Pang and Heng-Bo Fan and Pengyuan Wang and Jia-Hao Xiao and Nan Tang and Si-Hang Yang and Chengxing Jia and Sheng-Jun Huang and Yang Yu},
journal= {arXiv preprint arXiv:2402.03719},
year = {2024}
}