用于缓解 CXR 嵌入中受保护特征偏差的事后正交化方法
机器学习
2024-06-12 v2 计算机与社会
机器学习
摘要
目的：分析并去除深度学习模型胸部 X 射线图像嵌入中的受保护特征影响。方法：利用正交化去除 CXR 嵌入中受保护特征（如年龄、性别、种族）的影响，确保特征无关的结果。为验证该方法的有效性，我们使用三种预训练模型（即监督对比模型、自监督对比模型和基线分类器模型）对 MIMIC 和 CheXpert 数据集进行回顾性研究。我们的统计分析通过比较原始嵌入与正交化嵌入，估计受保护特征的影响，并评估利用两类嵌入预测种族、年龄或性别的能力。结果：我们的实验揭示了受保护特征对病理预测的显著影响。应用正交化去除了这些特征影响。除消除对病理分类的任何影响外，在保持有竞争力的预测性能的同时，正交化嵌入进一步使直接预测受保护属性变得不可行，并缓解了子群体差异。结论：本文展示的工作证明了正交化技术在胸部 X 射线图像分类领域的成功应用与评估。
引用
@article{arxiv.2311.01349,
title = {Post-hoc Orthogonalization for Mitigation of Protected Feature Bias in CXR Embeddings},
author = {Tobias Weber and Michael Ingrisch and Bernd Bischl and David Rügamer},
journal= {arXiv preprint arXiv:2311.01349},
year = {2024}
}