生成用于文本中基于性别的职业去偏的线索
计算与语言
2018-04-12 v1 计算机与社会
摘要
文本数据的广泛可得性使得 AI 系统的广泛训练和使用的成为可能，这些系统不仅从文本中学习和预测属性，还能自动生成文本。然而，这些 AI 模型也学到了训练数据中存在的性别、种族和民族偏见。在本文中，我们提出首个系统，可发现给定文本描绘与某职业相关的性别刻板印象的可能性。若该可能性存在，系统提供相反性别也在用户提供的地理和时间跨度内与该职业相关的反证。因此，该系统通过辅助人在回路(human-in-the-loop)实现文本去偏。该系统不仅可作为训练任何 AI 模型前的文本预处理器，还能帮助人类故事写作者在所选地理和时间背景下写出无职业层面性别偏见的故事。
引用
@article{arxiv.1804.03839,
title = {Generating Clues for Gender based Occupation De-biasing in Text},
author = {Nishtha Madaan and Gautam Singh and Sameep Mehta and Aditya Chetan and Brihi Joshi},
journal= {arXiv preprint arXiv:1804.03839},
year = {2018}
}