孔子：面向历史分析的带事实增强大型语言模型

最新大型语言模型（LLM）的能力已从纯粹的自然语言理解扩展到复杂的推理任务。然而，当前的推理模型在较长的推理链中常常表现出事实性错误，这对历史推理构成挑战，并限制了LLM在复杂、知识密集型任务中的潜力。历史研究不仅需要准确呈现事实信息，还需要建立跨时代的关联，并从片面且常常模糊的资料中推导出连贯的结论。为此，我们提出了孔子（Kongzi），一个专为历史分析设计的大型语言模型。通过整合精选的高质量历史数据和一种新颖的事实强化学习策略，孔子在事实对齐性和推理深度方面均表现出色。针对历史问答和叙事生成等任务进行的大规模实验表明，孔子在事实准确性和推理深度方面均优于现有模型。通过有效解决历史文本固有的独特挑战，孔子为开发准确可靠的专业领域LLM树立了新标准。