一种刻画拉丁美洲自然语言处理中偏见与有害刻板印象的方法论
计算与语言
2023-03-30 v3 人工智能
摘要
自动化决策系统，特别是那些基于自然语言处理的系统，在我们的生活中无处不在。它们不仅存在于我们日常使用的互联网搜索引擎背后，还承担着更关键的角色：筛选求职者、判定犯罪嫌疑人、诊断自闭症等。此类自动化系统会出错，这些错误可能以多种方式造成危害，无论是因为后果的严重性（如健康问题）还是因为其影响的人数众多。当自动化系统所犯的错误对某一人群的影响大于其他人群时，我们称该系统存在偏见。大多数现代自然语言技术基于使用机器学习从海量文本中获取的产物，即语言模型和词嵌入。由于它们是通过应用次符号机器学习（主要是人工神经网络）创建的，因此它们不透明且实际上无法通过直接检查来解释，从而极难对其进行审计。在本文中，我们提出了一种方法论，阐明了社会科学家、领域专家和机器学习专家如何协作探索词嵌入和大型语言模型中的偏见与有害刻板印象。我们的方法论基于以下原则：* 关注词嵌入和语言模型中歧视的语言表现，而非模型的数学性质 * 降低歧视专家（无论是社会科学家、领域专家还是其他人员）的技术门槛 * 除基于度量的方法外，还通过定性探索过程进行刻画 * 将缓解作为训练过程的一部分，而非事后补救
引用
@article{arxiv.2207.06591,
title = {A methodology to characterize bias and harmful stereotypes in natural language processing in Latin America},
author = {Laura Alonso Alemany and Luciana Benotti and Hernán Maina and Lucía González and Mariela Rajngewerc and Lautaro Martínez and Jorge Sánchez and Mauro Schilman and Guido Ivetta and Alexia Halvorsen and Amanda Mata Rojo and Matías Bordone and Beatriz Busaniche},
journal= {arXiv preprint arXiv:2207.06591},
year = {2023}
}