BOLD：用于度量开放式语言生成中偏见的数据集与指标
计算与语言
2021-01-29 v1 人工智能
机器学习
摘要
深度学习技术的最新进展使机器能够在以词序列作为上下文提示时生成连贯的开放式文本。尽管这些模型现已支撑从对话机器人到自动讲故事的许多下游应用，但已被证明会生成表现出社会偏见的文本。为系统研究和基准测试开放式语言生成中的社会偏见，我们引入了Bias in Open-Ended Language Generation Dataset（BOLD，开放式语言生成中的偏见数据集），这是一个大规模数据集，包含23,679条英文文本生成提示，用于跨五个领域（职业、性别、种族、宗教和政治意识形态）的偏见基准测试。我们还提出了用于毒性、心理语言学规范以及文本性别极性的新自动度量，从多个角度度量开放式文本生成中的社会偏见。对三个流行语言模型生成文本的检查显示，这些模型中的大多数在所有领域都表现出比人类撰写的维基百科文本更大的社会偏见。基于这些结果，我们强调对开放式语言生成中的偏见进行基准测试的必要性，并提醒下游任务中使用语言生成模型的用户注意这些内嵌的偏见。
引用
@article{arxiv.2101.11718,
title = {BOLD: Dataset and Metrics for Measuring Biases in Open-Ended Language Generation},
author = {Jwala Dhamala and Tony Sun and Varun Kumar and Satyapriya Krishna and Yada Pruksachatkun and Kai-Wei Chang and Rahul Gupta},
journal= {arXiv preprint arXiv:2101.11718},
year = {2021}
}