大语言模型中的认知偏差：审慎乐观遇上反庞格里亚式改良主义
人工智能
2023-11-21 v1
摘要
传统上关于大语言模型偏差的讨论聚焦于一种与不公平密切相关的偏差概念，尤其关注其对边缘化群体的影响。近期研究提出了一种新可能，即运用判断与决策研究中为人熟知的多种认知偏差来评估大语言模型的输出。本文旨在从近期关于大语言模型认知偏差的讨论中得出两点启示：对当前模型中偏差的普遍性持审慎乐观态度，同时以反庞格里亚式的意愿承认某些真实偏差的存在并努力减少它们。我阐发了这一讨论对人之认知偏差的合理性以及非代表性数据在驱动模型偏差中所起作用所具有的哲学意涵。
引用
@article{arxiv.2311.10932,
title = {Cognitive bias in large language models: Cautious optimism meets anti-Panglossian meliorism},
author = {David Thorstad},
journal= {arXiv preprint arXiv:2311.10932},
year = {2023}
}