（非）上下文临床词嵌入在刻板医学类别中的性别偏见
计算与语言
2022-08-09 v2 计算机与社会
摘要
临床词嵌入作为最先进的特征向量表示，被广泛应用于各类 Bio-NLP 问题中。尽管它们在词语的语义表示上相当成功，但由于训练所依据的数据集——其潜在携带统计与社会偏见——它们可能表现出性别刻板印象。本研究分析了临床嵌入在三类医学类别上的性别偏见：精神障碍、性传播疾病与人格特质。为此，我们分析了两种不同的预训练嵌入，即（上下文化的）clinical-BERT 与（非上下文化的）BioWordVec。我们表明两种嵌入均对敏感性别群体存在偏见，但 BioWordVec 在所有三类上均表现出比 clinical-BERT 更高的偏见。此外，我们的分析显示临床嵌入对某些医学术语和疾病带有高度偏见，这与医学文献相冲突。这种缺乏依据的相关性可能对使用临床嵌入的下游应用造成危害。
引用
@article{arxiv.2208.01341,
title = {Gender bias in (non)-contextual clinical word embeddings for stereotypical medical categories},
author = {Gizem Sogancioglu and Fabian Mijsters and Amar van Uden and Jelle Peperzak},
journal= {arXiv preprint arXiv:2208.01341},
year = {2022}
}