深度泰勒分解中时空相关性的区分用于可解释活动识别
机器学习
2019-08-15 v2 计算机视觉与模式识别
人机交互
机器学习
摘要
当前可解释人工智能技术已在图像处理中取得一定成功。近期视频处理研究的兴起呼吁类似的工作来解构和解释时空模型。尽管许多技术是为二维卷积模型设计的，其他技术则本质上适用于任意输入域。其中一类工作——深度泰勒分解（deep Taylor decomposition）——将相关性从模型输出分配传播到其输入，因此并不局限于图像处理模型。然而，通过利用一种去除运动信息的简单技术，我们表明该技术并非如其所是地能有效表示非图像任务中的相关性。我们转而提出一种区分方法，将帧的空间与时间相关性作为两个独立对象生成朴素表示。这一新的区分相关性模型揭示了帧中归因于运动的相关性，而这在原解释中曾是模糊的。我们在 UCF-101 动作识别数据集的一系列样本上观察了该技术的有效性，本文展示了其中两个。
引用
@article{arxiv.1908.01536,
title = {Discriminating Spatial and Temporal Relevance in Deep Taylor Decompositions for Explainable Activity Recognition},
author = {Liam Hiley and Alun Preece and Yulia Hicks and David Marshall and Harrison Taylor},
journal= {arXiv preprint arXiv:1908.01536},
year = {2019}
}
备注
5 pages, 2 figures, published at IJCAI19 ExAI workshop