Debiased-CAM：以忠实视觉解释缓解机器学习系统性偏差
人机交互
2022-03-02 v2 人工智能
摘要
显著性图等模型解释方法可通过高亮预测的重要特征来提升用户对人工智能的信任。然而，当解释受系统性误差（偏差）影响的图像的预测时，这些解释会变得失真且具有误导性。此外，尽管在不同因素（模糊、色温、白天/夜晚）导致的偏差图像上进行了模型微调，这种失真依然存在。我们提出 Debiased-CAM，通过训练一个具有解释与偏差程度预测辅助任务的多输入多任务模型，在各种偏差类型与程度下恢复解释的忠实性。在仿真研究中，该方法不仅提升了预测准确率，还生成了关于这些预测的高度忠实解释，仿佛图像无偏差一般。在用户研究中，去偏解释提升了用户的任务表现、感知真实性与感知有用性。去偏训练可为存在数据偏差的广泛应用提供一个兼具鲁棒性能与解释忠实性的通用平台。
引用
@article{arxiv.2201.12835,
title = {Debiased-CAM to mitigate systematic error with faithful visual explanations of machine learning},
author = {Wencan Zhang and Mariella Dimiccoli and Brian Y. Lim},
journal= {arXiv preprint arXiv:2201.12835},
year = {2022}
}
备注
This work was intended as a replacement of arXiv:2012.05567 and any subsequent updates will appear there