大语言模型概率推理中的双重特征
人工智能
2024-12-17 v1 计算与语言
计算机与社会
摘要
我们进行了三项实验以研究大语言模型（LLM）如何评估后验概率。我们的结果揭示了最先进模型在后验判断中存在两种模式共存：一种是遵循贝叶斯法则的规范模式，另一种是基于表征的模式，后者依赖于相似性——这平行于人类的系统1和系统2思维。此外，我们观察到LLM难以从其记忆中召回基础概率信息，且开发提示工程策略以缓解基于表征的判断可能具有挑战性。我们进一步推测，这种双重判断模式可能是人类反馈强化学习中采用的对比损失函数的结果。我们的发现强调了减少LLM认知偏差的潜在方向，以及在关键领域谨慎部署LLM的必要性。
引用
@article{arxiv.2412.11009,
title = {Dual Traits in Probabilistic Reasoning of Large Language Models},
author = {Shenxiong Li and Huaxia Rui},
journal= {arXiv preprint arXiv:2412.11009},
year = {2024}
}