非色盲：人工智能从黑白视网膜血管分割图中预测种族身份
计算机视觉与模式识别
2021-09-29 v1
摘要
背景：当医学图像中存在皮肤或脉络膜色素时，人工智能（AI）可能表现出种族偏见。近期研究表明，卷积神经网络（CNNs）能够从先前被认为不含种族特异性特征的图像中预测种族。我们评估了接受早产儿视网膜病变（ROP）筛查患者的灰度视网膜血管图（RVMs）是否包含种族特异性特征。方法：从245名黑人和白人婴儿收集了4095张视网膜眼底图像（RFIs）。U-Net从RFIs生成RVMs，随后进行阈值化、二值化或骨架化。为确定黑人与白人眼睛间RVM差异是否为生理性的，训练CNNs从彩色RFIs、原始RVMs以及阈值化、二值化或骨架化RVMs预测种族。评估了精确率-召回率曲线下面积（AUC-PR）。结果：CNNs从RFIs预测种族近乎完美（图像级AUC-PR：0.999，受试者级AUC-PR：1.000）。原始RVMs的信息量几乎与彩色RFIs相当（图像级AUC-PR：0.938，受试者级AUC-PR：0.995）。最终，无论图像是否含颜色、血管分割亮度差异是否被消除，或血管分割宽度是否被归一化，CNNs均能判别RFIs或RVMs来自黑人或白人婴儿。解释：AI可从先前被认为不含种族信息的灰度RVMs中检测种族。对这些发现的两种可能解释是：黑人与白人婴儿的视网膜血管存在生理差异，或U-Net针对不同眼底色素对视网膜血管分割方式不同。无论如何，其含义相同：即便初步尝试从底层图像中移除此类信息看似成功，AI算法在实践中仍有可能表现出种族偏见。
引用
@article{arxiv.2109.13845,
title = {Not Color Blind: AI Predicts Racial Identity from Black and White Retinal Vessel Segmentations},
author = {Aaron S. Coyner and Praveer Singh and James M. Brown and Susan Ostmo and R. V. Paul Chan and Michael F. Chiang and Jayashree Kalpathy-Cramer and J. Peter Campbell},
journal= {arXiv preprint arXiv:2109.13845},
year = {2021}
}
备注
31 pages, 6 figures