用于缓解图像扰动并提供忠实机器学习视觉解释的Debiased-CAM
计算机视觉与模式识别
2022-03-30 v3 计算机与社会
人机交互
机器学习
摘要
显著性图等模型解释可通过高亮预测的重要特征来提升用户对AI的信任。然而，当解释受系统性误差（偏差）扰动和损坏的图像预测时，这些解释会变得失真且具误导性。此外，尽管针对不同因素（模糊、色温、昼/夜）偏差图像对模型进行微调，失真依然存在。我们提出Debiased-CAM，通过训练具有解释与偏差水平预测辅助任务的多输入多任务模型，在各种偏差类型与水平上恢复解释的忠实性。在仿真研究中，该方法不仅提升了预测精度，还生成了如同图像无偏时般高度忠实的预测解释。在用户研究中，去偏解释提升了用户任务表现、感知真实性与感知有用性。去偏训练可为广泛存在数据偏差的应用提供鲁棒性能与解释忠实性的通用平台。
引用
@article{arxiv.2012.05567,
title = {Debiased-CAM to mitigate image perturbations with faithful visual explanations of machine learning},
author = {Wencan Zhang and Mariella Dimiccoli and Brian Y. Lim},
journal= {arXiv preprint arXiv:2012.05567},
year = {2022}
}
备注
CHI 2022