揭示对话系统中的人格偏见
计算与语言
2021-12-16 v2
摘要
以聊天机器人和个人助理形式出现的对话系统正日益融入人们的生活。现代对话系统可能考虑采用拟人化人格，模仿社会人口群体，以对用户显得更亲切可信。然而，采用人格可能导致偏见的采纳。本文呈现首项关于对话系统人格偏见的大规模研究，并对不同社会阶层、性取向、种族和性别的人格进行分析。我们将人格偏见定义为因采用不同人口统计学人格而生成回应中的有害差异（例如不同程度的冒犯性、对有害陈述的认同）。此外，我们引入一个开源框架 UnitPersonaBias，以探索和聚合对话系统中的人格偏见。通过分析 Blender 和 DialoGPT 对话系统，我们观察到与不采用任何人格相比，采用人格实际上可减少有害回应。另外，我们发现人格选择会影响生成回应中有害程度，因而在部署前应系统评估。我们还分析了人格如何导致对特定人口群体不同程度的有害影响。
引用
@article{arxiv.2104.08728,
title = {Revealing Persona Biases in Dialogue Systems},
author = {Emily Sheng and Josh Arnold and Zhou Yu and Kai-Wei Chang and Nanyun Peng},
journal= {arXiv preprint arXiv:2104.08728},
year = {2021}
}
备注
8 pages