UDIS：深度视觉识别模型中偏见的无监督发现
计算机视觉与模式识别
2021-11-01 v1
摘要
深度学习模型已被证明会从数据中学习虚假关联，有时导致某些子群体出现系统性失败。先前工作通常通过众包标注各种受保护属性并衡量性能来诊断此问题，这既获取昂贵又难以扩展。在本工作中，我们提出UDIS，一种用于暴露和分析此类失败模式的无监督算法。UDIS通过数据集嵌入的层次聚类识别子群体，并通过可视化低性能聚类及其梯度加权类激活图来暴露系统性失败模式。我们展示了UDIS在识别于CelebA和MSCOCO数据集上训练的图像分类模型的失败模式中的有效性。
引用
@article{arxiv.2110.15499,
title = {UDIS: Unsupervised Discovery of Bias in Deep Visual Recognition Models},
author = {Arvindkumar Krishnakumar and Viraj Prabhu and Sruthi Sudhakar and Judy Hoffman},
journal= {arXiv preprint arXiv:2110.15499},
year = {2021}
}