基于对抗学习缓解神经对话生成的性别偏见
计算与语言
2020-11-03 v2 人工智能
机器学习
摘要
对话系统在我们日常生活的各个方面扮演着越来越重要的角色。近期研究清楚地表明，基于人类对话数据训练的对话系统存在偏见。特别地，它们可能产生反映人们性别偏见的回复。许多去偏方法已针对各类 NLP 任务（如词嵌入）被提出。然而，它们不能直接应用于对话系统，因为它们很可能迫使对话模型对不同性别生成相似的回复。这极大降低了生成回复的多样性，并严重损害了对话模型的性能。在本文中，我们提出一种新颖的对抗学习框架 Debiased-Chat，以在保持对话模型性能的同时训练无性别偏见的对话模型。在两个真实对话数据集上的大量实验表明，我们的框架在保持回复质量的同时显著降低了对话模型中的性别偏见。所提框架的实现已开源。
引用
@article{arxiv.2009.13028,
title = {Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning},
author = {Haochen Liu and Wentao Wang and Yiqi Wang and Hui Liu and Zitao Liu and Jiliang Tang},
journal= {arXiv preprint arXiv:2009.13028},
year = {2020}
}
备注
Accepted by EMNLP 2020