HoT：用于引用输入支持事实的高亮思维链
计算与语言
2026-02-23 v5 人机交互
摘要
大型语言模型（LLMs）的一个致命弱点是其倾向于产生非事实性陈述的幻觉。由事实性和非事实性陈述混合而成的回答给人类验证并据此准确做出决策带来了挑战。为解决此问题，我们提出了高亮思维链提示（Highlighted Chain-of-Thought Prompting, HoT），这是一种提示 LLMs 生成带有 XML 标签的回答的技术，该标签将事实依据锚定于问题中提供的事实。即，给定一个输入问题，LLMs 会首先重新格式化该问题以添加高亮关键事实的 XML 标签，然后生成一个带有对引自输入事实进行高亮的回答。与原始思维链提示（CoT）相比，HoT 降低了幻觉率，并在从算术、阅读理解到逻辑推理的 22 项以上任务中持续提升了 LLM 的准确性。当要求人类验证 LLM 的回答时，高亮帮助时间受限的参与者更准确、更高效地识别 LLM 何时是正确的。然而，令人惊讶的是，当 LLM 出错时，HoT 往往会欺骗用户，使其相信答案是正确的。
引用
@article{arxiv.2503.02003,
title = {HoT: Highlighted Chain of Thought for Referencing Supporting Facts from Inputs},
author = {Tin Nguyen and Logan Bolton and Mohammad Reza Taesiri and Trung Bui and Anh Totti Nguyen},
journal= {arXiv preprint arXiv:2503.02003},
year = {2026}
}