沉默的学者问题:用于打破 LLM 智能体认知不对称的概率框架
人工智能
2025-12-25 v1
摘要
由大语言模型(LLM)和检索增强生成(RAG)驱动的自主智能体虽然擅长消费数字内容,却呈现单向性,导致冗余推理并阻碍集体智慧发展。当前的自我反思框架多为经验性且私有化,缺乏概率基础以量化确定性或合理化外部交互。为弥合这一鸿沟,我们提出一种形式化的概率框架,为智能体提供非利他主义的双向知识交换动机。我们采用带遗忘因子()的 Beta-Bernoulli 分布建模智能体对命题的信念,从而将认知不确定性隔离为信念的方差,构建两种驱动:稳态动机——维持信念确定性以抵御 引入的时序衰减;最优学习策略——针对最大歧义点()以最大化信息增益。于是,公共贡献被重新定义为最优主动学习:分享解答以诱导反馈是智能体降低自身不确定性最有效的方法。为保证可扩展性,我们引入认知缓存机制,利用遗忘因子动态优先级排序资源,以应对非平稳知识分布的活跃头部。最终,这些累积的信念状态可作为强化学习从人类反馈(RLHF)的可验证奖励信号,以及监督式微调(SFT)的高质量数据过滤器。仿真结果表明,此不确定性驱动的策略在异质(齐夫)环境中显著优于随机基线,保持对概念漂移的高适应性。
引用
@article{arxiv.2512.20884,
title = {The Silent Scholar Problem: A Probabilistic Framework for Breaking Epistemic Asymmetry in LLM Agents},
author = {Zan-Kai Chong and Hiroyuki Ohsaki and Bryan Ng},
journal= {arXiv preprint arXiv:2512.20884},
year = {2025}
}