DebIE：一个用于词嵌入空间隐式与显式去偏的平台
计算与语言
2021-03-12 v1
摘要
NLP 中近期的研究工作表明，分布式子向量空间常常编码刻板的人类偏见，例如种族主义和性别歧视。由于词表示在 NLP 模型和流水线中被普遍使用，这引发了伦理问题并危及语言技术的公平性。尽管关于偏见度量和去偏方法已有大量工作，但迄今为止尚无一个能统一这些研究工作并使表示空间的偏见度量与去偏广泛可用的平台。在本文中，我们提出 DebIE，首个用于(1)度量及(2)缓解词嵌入中偏见的集成平台。给定(i)嵌入空间(用户可在预定义空间中选择或上传自有空间)和(ii)偏见规范(用户可在已有偏见规范中选择或创建自有规范)，DebIE 能够(1)计算若干隐式与显式偏见度量，并通过执行两种(可相互组合的)去偏模型来修改嵌入空间。DebIE 的功能可通过四种不同接口访问：(a) 网页应用，(b) 桌面应用，(c) RESTful API，以及(d) 命令行应用。DebIE 可在 debie.informatik.uni-mannheim.de 获取。
引用
@article{arxiv.2103.06598,
title = {DebIE: A Platform for Implicit and Explicit Debiasing of Word Embedding Spaces},
author = {Niklas Friedrich and Anne Lauscher and Simone Paolo Ponzetto and Goran Glavaš},
journal= {arXiv preprint arXiv:2103.06598},
year = {2021}
}
备注
Accepted as EACL21 Demo