思维阶梯：以知识为阶提升立场检测
计算与语言
2023-09-08 v2 人工智能
摘要
立场检测旨在识别文档针对给定目标所表达的态度。诸如思维链（Chain-of-Thought, CoT）提示等技术已推进了该任务，通过推导中间推理依据增强了模型的推理能力。然而，CoT在推理过程中主要依赖模型预训练的内部知识，从而忽视了模型先前未知的有价值外部信息。这一遗漏，尤其在无监督推理过程中，会影响模型的整体表现。此外，尽管CoT增强了大语言模型（LLMs），较小的语言模型虽运算高效，却在提供细致推理方面面临挑战。针对这些已识别的不足，我们为立场检测任务引入了思维阶梯（Ladder-of-Thought, LoT）。LoT通过双阶段渐进优化框架构建，引导小语言模型吸收高质量外部知识，精炼所生成的中间推理依据。这些增强的推理依据随后作为更精确预测的基础——犹如阶梯助达高处目标。LoT在效率与性能间取得平衡。我们的实证评估凸显了LoT的效能，在立场检测任务上较GPT-3.5提升16%，较采用CoT的GPT-3.5提升10%。
引用
@article{arxiv.2308.16763,
title = {Ladder-of-Thought: Using Knowledge as Steps to Elevate Stance Detection},
author = {Kairui Hu and Ming Yan and Joey Tianyi Zhou and Ivor W. Tsang and Wen Haw Chong and Yong Keong Yap},
journal= {arXiv preprint arXiv:2308.16763},
year = {2023}
}
备注
5 pages, 2 figures, 2 tables