半结构化领域中的检索增强思维链
计算与语言
2023-10-24 v1 人工智能
摘要
将现有的问答（QA）系统应用于法律和金融等专门领域面临需要领域专业知识的挑战。尽管大语言模型（LLMs）已展现出令人印象深刻的语言理解能力和上下文学习（in-context learning）能力，但其无法处理极长输入/上下文的缺陷是众所周知的。这些领域特有的任务需要大量背景知识，导致上下文常常超出已有LLMs所能处理的最大长度。本研究探索利用法律和金融数据的半结构化特性来高效检索相关上下文，从而使LLMs能够用于领域专门的QA。所得系统优于同期模型，并且为答案提供了有用的解释，鼓励在未来的研究中将LLMs整合进法律和金融NLP系统。
引用
@article{arxiv.2310.14435,
title = {Retrieval-Augmented Chain-of-Thought in Semi-structured Domains},
author = {Vaibhav Mavi and Abulhair Saparov and Chen Zhao},
journal= {arXiv preprint arXiv:2310.14435},
year = {2023}
}
备注
to appear in NLLP 2023