ThinkNote：通过建构主义认知建模增强大语言模型的知识整合与利用
计算与语言
2026-01-28 v4
摘要
大语言模型（LLM）在广泛的 NLP 任务中展现出了卓越的性能。然而，当面对不熟悉的外部信息时，它们常表现出次优行为和不一致性，这凸显了其在有效利用此类知识方面的局限性。受建构主义学习理论启发，我们提出了 ThinkNote，这是一个通过两阶段建构主义认知建模过程来增强 LLM 外部知识利用的新型框架。具体而言，ThinkNote 执行知识同化，将新信息与模型的参数化记忆对齐，形成连贯的内部表示。随后，它应用思维顺应来调整内部推理，从而促进更一致、更可靠的输出。大量实验结果表明，ThinkNote 在各种问答基准上比强基线方法提升了 10%。进一步分析表明，ThinkNote 有效地整合并利用了外部知识，帮助 LLM 生成准确的回答，并提升了其自洽性。所有数据和代码可在 https://github.com/OpenMatch/ThinkNote 获取。
引用
@article{arxiv.2402.13547,
title = {ThinkNote: Enhancing Knowledge Integration and Utilization of Large Language Models via Constructivist Cognition Modeling},
author = {Zhipeng Xu and Zhenghao Liu and Yukun Yan and Shuo Wang and Shi Yu and Zheni Zeng and Chaojun Xiao and Zhiyuan Liu and Ge Yu and Chenyan Xiong},
journal= {arXiv preprint arXiv:2402.13547},
year = {2026}
}