基于概念地失败：数据集偏移的概念级解释
机器学习
2021-05-04 v2
摘要
尽管机器学习技术在广泛的视觉任务上表现优异，但它们常常受制于数据分布偏移。因此，一系列近期工作探索了检测这些偏移的技术。遗憾的是，当前技术未提供关于是什么触发了偏移检测的 explanations，从而限制了它们提供可操作见解的效用。在这项工作中，我们提出概念瓶颈偏移检测（CBSD）：一种新颖的可解释偏移检测方法。CBSD 通过识别并排序受偏移影响的高级人类可理解概念的程度来提供解释。使用两个案例研究（dSprites 和 3dshapes），我们展示了 CBSD 如何准确地检测受偏移影响的潜在概念，并相比最先进的偏移检测方法取得更高的检测准确率。
引用
@article{arxiv.2104.08952,
title = {Failing Conceptually: Concept-Based Explanations of Dataset Shift},
author = {Maleakhi A. Wijaya and Dmitry Kazhdan and Botty Dimanov and Mateja Jamnik},
journal= {arXiv preprint arXiv:2104.08952},
year = {2021}
}
备注
ICLR 2021 Workshop (RobustML), 16 pages, 14 figures; typos corrected