解释性交互学习中反馈类型的影响
人工智能
2022-09-27 v1 人机交互
摘要
解释性交互学习（XIL）收集用户对视觉模型解释的反饋，以实现基于人在回路（HITL）的交互式学习场景。不同的用户反馈类型将对用户体验与收集反馈的成本产生不同影响，因为不同反馈类型涉及不同级别的图像标注。尽管 XIL 已被用于提升多个领域的分类性能，不同用户反馈类型对模型性能与解释准确性的影响尚未被充分研究。为引导未来 XIL 工作，我们在图像分类任务中比较两种不同用户反馈类型的有效性：（1）指示算法忽略某些虚假图像特征，以及（2）指示算法聚焦于某些有效图像特征。我们使用基于梯度加权类激活映射（GradCAM）的 XIL 模型的解释来支持这两种反馈类型。我们表明，识别并标注模型认为显著的虚假图像特征，比告知模型聚焦于有效图像特征的用户反馈带来更优的分类与解释准确性。
引用
@article{arxiv.2209.12476,
title = {Impact of Feedback Type on Explanatory Interactive Learning},
author = {Misgina Tsighe Hagos and Kathleen M. Curran and Brian Mac Namee},
journal= {arXiv preprint arXiv:2209.12476},
year = {2022}
}
备注
11 pages, 8 figures, accepted at the International Symposium on Methodologies for Intelligent Systems, ISMIS 2022