“汝算法不可作伪证”：词嵌入上多类去偏方法的评测
计算与语言
2020-11-05 v2 人工智能
机器学习
机器学习
摘要
随着人工智能应用的广泛发展与使用，针对这些算法公平性的研究日益增多。具体而言，在自然语言处理领域，已表明社会偏见持续存在于词嵌入中，因而在使用时有放大这些偏见的风险。作为社会偏见的一例，宗教偏见被证实持续存在于词嵌入中，且其消除需求凸显。本文调研了最先进的多类去偏技术：硬去偏（Hard debiasing）、SoftWEAT 去偏与 Conceptor 去偏。通过在共同基准上量化经由词嵌入关联测试（WEAT）、平均余弦相似度（MAC）与相对负情感偏见（RNSB）实现的偏见消除，评测它们在去除宗教偏见上的表现。通过在三个广泛使用的词嵌入 Word2Vec、GloVe 与 ConceptNet 上考察宗教偏见去除，结果表明首选方法是 ConceptorDebiasing。具体而言，该技术对三组词嵌入测得的平均宗教偏见分别降低了 82.42%、96.78% 与 54.76%。
引用
@article{arxiv.2010.16228,
title = {"Thy algorithm shalt not bear false witness": An Evaluation of Multiclass Debiasing Methods on Word Embeddings},
author = {Thalea Schlender and Gerasimos Spanakis},
journal= {arXiv preprint arXiv:2010.16228},
year = {2020}
}
备注
15 pages, presented at BNAIC/BENELEARN 2020, data/code at https://github.com/thaleaschlender/An-Evaluation-of-Multiclass-Debiasing-Methods-on-Word-Embeddings