ChatGPT 应当有偏见吗？大语言模型中偏见的挑战与风险
计算机与社会
2023-11-14 v3 计算与语言
摘要
随着生成式语言模型能力的持续进步，这些模型中根深蒂固的偏见所引发的影响已引起研究人员、从业者及更广泛公众的日益关注。本文探讨与 ChatGPT 等大规模语言模型中偏见相关的挑战与风险。我们讨论偏见的起源，其源于训练数据的性质、模型设定、算法约束、产品设计和政策决策等方面。我们探究由有偏模型输出之意外后果引发的伦理关切。我们进一步分析缓解偏见的潜在机会、某些偏见的不可避免性，以及将这些模型部署于虚拟助手、内容生成和聊天机器人等各类应用中的影响。最后，我们回顾当前识别、量化和缓解语言模型中偏见的方法，强调需要多学科、协作的努力以开发更公平、透明和负责任的 AI 系统。本文旨在激发人工智能界内的深思对话，鼓励研究者和开发者反思生成式语言模型中偏见的作用以及伦理 AI 的持续追求。
引用
@article{arxiv.2304.03738,
title = {Should ChatGPT be Biased? Challenges and Risks of Bias in Large Language Models},
author = {Emilio Ferrara},
journal= {arXiv preprint arXiv:2304.03738},
year = {2023}
}
备注
Published on First Monday https://firstmonday.org/ojs/index.php/fm/article/view/13346/11365