挑战机器智能的表象：大语言模型中的认知偏差与采纳最佳实践
人机交互
2023-08-30 v3
摘要
对大语言模型（LLM）中算法偏差的评估通常旨在揭示基于受保护特征（如性别与族裔）的系统性歧视。然而，在人类推理与决策中弥漫且已有超过 180 种文献记载的认知偏差，在讨论 AI 的伦理复杂性时却被 routinely 忽视。我们展示了这些认知偏差在 LLM 中的存在，并讨论了在专家外衣下使用有偏推理的影响。我们呼吁加强教育、风险管理与持续研究，以应对该技术的广泛采纳不断增加的局面。最后，随着广泛采纳持续增长，我们就何时及如何运用该技术给出了一套最佳实践。
引用
@article{arxiv.2304.01358,
title = {Challenging the appearance of machine intelligence: Cognitive bias in LLMs and Best Practices for Adoption},
author = {Alaina N. Talboy and Elizabeth Fuller},
journal= {arXiv preprint arXiv:2304.01358},
year = {2023}
}