聊天机器人中的偏见与公平性：综述
计算与语言
2023-12-12 v2 人工智能
计算机与社会
摘要
聊天机器人已被研究半个多世纪。近年来随着自然语言处理（NLP）技术的快速发展，使用大语言模型（LLMs）的聊天机器人当下备受关注。相较于传统聊天机器人，现代聊天机器人更为强大，并已用于现实应用。然而，现代聊天机器人的设计中存在偏见与公平性担忧。由于海量训练数据、极大的模型规模以及缺乏可解释性，现代聊天机器人的偏见缓解与公平性保持颇具挑战。因此，本文给出关于聊天机器人系统中偏见与公平性的全面综述。首先回顾聊天机器人的历史及其类别。接着，分析偏见来源与应用中的潜在危害。考察设计公平且无偏聊天机器人系统的考量。最后，讨论未来研究方向。
引用
@article{arxiv.2309.08836,
title = {Bias and Fairness in Chatbots: An Overview},
author = {Jintang Xue and Yun-Cheng Wang and Chengwei Wei and Xiaofeng Liu and Jonghye Woo and C. -C. Jay Kuo},
journal= {arXiv preprint arXiv:2309.08836},
year = {2023}
}