隐于显见：针对脆弱患者群体的不可检测对抗性偏见攻击
机器学习
2024-04-09 v3 人工智能
计算机视觉与模式识别
摘要
人工智能 (AI) 在放射学中的普及揭示了深度学习 (DL) 模型加剧针对脆弱患者群体临床偏见的风险。虽然先前的文献主要集中在量化训练好的 DL 模型所表现出的偏见，但针对 DL 模型的人口统计学针对性对抗性偏见攻击及其在临床环境中的影响，仍然是医学成像研究中一个未被充分探索的领域。在这项工作中，我们证明了人口统计学针对性的标签投毒攻击可以在 DL 模型中引入不可检测的漏诊偏见。我们在多个性能指标以及性别、年龄及其交叉子组等人口统计学群体中的结果表明，对抗性偏见攻击表现出对目标群体偏见的高度选择性，即在降低特定群体模型性能的同时不影响整体模型性能。此外，我们的结果表明，对抗性偏见攻击导致的有偏见 DL 模型，即使在使用外部数据集进行评估时，也会传播预测偏见。
引用
@article{arxiv.2402.05713,
title = {Hidden in Plain Sight: Undetectable Adversarial Bias Attacks on Vulnerable Patient Populations},
author = {Pranav Kulkarni and Andrew Chan and Nithya Navarathna and Skylar Chan and Paul H. Yi and Vishwa S. Parekh},
journal= {arXiv preprint arXiv:2402.05713},
year = {2024}
}
备注
29 pages, 4 figures