弥合鸿沟：以注视事件作为可解释概念解释深度神经序列模型
机器学习
2023-04-27 v1 人机交互
摘要
近期在眼动追踪数据可解释人工智能（XAI）方面的研究评估了特征归因方法在解释用于眼动生物识别任务的深度神经序列模型输出方面的适用性。这些方法提供显著图以突出特定眼动序列的重要输入特征。然而，迄今为止，其定位分析缺乏跨整个数据集的定量方法。在本工作中，我们采用已建立的注视事件检测算法来检测注视和扫视，并通过确定其概念影响来定量评估这些事件的作用。属于扫视的输入特征被证明比属于注视的特征重要得多。通过将扫视事件解构为子事件，我们能够表明接近扫视峰值速度的眼动样本最具影响力。我们进一步研究了事件属性（如扫视幅度或注视离散度）对所得概念影响的效果。
引用
@article{arxiv.2304.13536,
title = {Bridging the Gap: Gaze Events as Interpretable Concepts to Explain Deep Neural Sequence Models},
author = {Daniel G. Krakowczyk and Paul Prasse and David R. Reich and Sebastian Lapuschkin and Tobias Scheffer and Lena A. Jäger},
journal= {arXiv preprint arXiv:2304.13536},
year = {2023}
}
备注
Preprint for ETRA '23: 2023 Symposium on Eye Tracking Research and Applications