探究人与对话智能体对话中的语言模式性别偏见
人机交互
2024-01-09 v1 计算与语言
计算机与社会
摘要
随着人机通信的兴起,机器越来越多地被设计为具有性别等类人特征,这可能会无意中触发认知偏见。许多对话智能体(CA),如语音助手和聊天机器人,默认使用女性角色,引发了关于其延续性别刻板印象和不平等的担忧。针对这些技术可能导致的女性物化及性别刻板印象强化的批评相继出现。本研究立足于对话式AI设计,旨在深入探讨人机交互中性别偏见的影响。从行为与传播研究的视角出发,本项目不仅关注感知,还关注用户在与CA交互时的语言风格,这是以往研究极少探讨的。它旨在理解既有的性别偏见如何被CA的性别设计所触发。它进一步研究了CA的性别设计如何可能强化性别偏见并将其延伸至人际通信。研究结果旨在为对话智能体的伦理设计提供参考,探讨在CA中进行性别分配是否合适,以及如何在设计中促进性别平等。
引用
@article{arxiv.2401.03030,
title = {Exploring Gender Biases in Language Patterns of Human-Conversational Agent Conversations},
author = {Weizi Liu},
journal= {arXiv preprint arXiv:2401.03030},
year = {2024}
}