性别是否重要？迈向对话系统中的公平性
计算与语言
2020-11-03 v3 人工智能
摘要
近来，人们对人工智能（AI）在计算机视觉和推荐等实际应用中的公平性日益关注。例如，计算机视觉中的识别算法对黑人存在不公平，如对其人脸检测效果差，并不恰当地将其识别为“大猩猩”。作为AI的一项关键应用，对话系统已在社会中广泛部署。它们通常基于真实人类对话数据构建，因此可能继承现实世界中存在的某些公平性问题。然而，对话系统的公平性尚未得到充分研究。本文对对话系统中的公平性问题开展了开创性研究。具体而言，我们构建了一个基准数据集，并提出了量化度量以理解对话模型中的公平性。我们的研究表明，流行的对话模型对不同性别和种族表现出显著的偏见。此外，为缓解对话系统中的偏差，我们提出了两种简单但有效的去偏方法。实验表明，我们的方法能显著降低对话系统中的偏差。我们已发布该数据集与实现代码，以促进对话系统中的公平性研究。
引用
@article{arxiv.1910.10486,
title = {Does Gender Matter? Towards Fairness in Dialogue Systems},
author = {Haochen Liu and Jamell Dacon and Wenqi Fan and Hui Liu and Zitao Liu and Jiliang Tang},
journal= {arXiv preprint arXiv:1910.10486},
year = {2020}
}
备注
Accepted by COLING 2020