偏见的回声：污名化语言如何影响AI性能
人工智能
2023-06-13 v4 计算机与社会
摘要
电子健康记录(EHRs)是设想中由人工智能(AI)驱动的医疗转型的关键数据源。然而，EHR笔记中反映的临床医生偏见会导致AI模型继承并放大这些偏见，从而加剧健康差异。本研究使用基于Transformer的深度学习模型和可解释AI(XAI)技术，调查了EHR笔记中的污名化语言(SL)对死亡率预测的影响。我们的研究结果表明，临床医生书写的SL会对AI性能产生不利影响，对黑人患者尤为严重，突显了SL是AI模型开发中种族差异的一个来源。为了探索一种在操作上高效减轻SL影响的方法，我们通过临床医生协作网络调查了SL生成的模式，发现核心临床医生对AI模型中的种族差异具有更强的影响。我们发现，与消除数据语料库中的所有SL相比，移除核心临床医生书写的SL是一种更高效的偏见减少策略。本研究为负责任的AI开发提供了可操作的见解，并有助于理解医疗保健中的临床医生行为和EHR笔记书写。
引用
@article{arxiv.2305.10201,
title = {Echoes of Biases: How Stigmatizing Language Affects AI Performance},
author = {Yizhi Liu and Weiguang Wang and Guodong Gordon Gao and Ritu Agarwal},
journal= {arXiv preprint arXiv:2305.10201},
year = {2023}
}
备注
54 pages, 9 figures