皮肤病变数据集与模型的去偏？言之尚早
计算机视觉与模式识别
2020-04-27 v1
摘要
数据驱动的模型如今已部署于大量现实应用中——包括自动化诊断——但从数据学习的模型面临从该数据中习得偏置的风险。当模型学到真实世界中并不存在的虚假关联时，其在医疗决策等关键任务中的部署可能是灾难性的。本工作中我们针对皮肤病变分类模型解决此问题，目标有二：找出有偏网络所利用的虚假关联，并通过从模型中移除此类虚假关联来去偏。我们对7种视觉伪影（可作为网络可利用的偏置来源）进行了系统性综合分析，采用一种最先进的技术防止模型学习虚假关联，并提出了用于测试模型是否存在偏置的数据集。我们发现，尽管有一些指向有前景未来研究的有趣结果，当前的去偏方法尚不足以解决皮肤病变模型的偏置问题。
引用
@article{arxiv.2004.11457,
title = {Debiasing Skin Lesion Datasets and Models? Not So Fast},
author = {Alceu Bissoto and Eduardo Valle and Sandra Avila},
journal= {arXiv preprint arXiv:2004.11457},
year = {2020}
}
备注
Accepted to the ISIC Skin Image Analysis Workshop @ CVPR 2020