利用多通道注意力子网络解释特征空间
计算机视觉与模式识别
2019-05-01 v1 人工智能
摘要
卷积神经网络在各种任务中取得了令人印象深刻的成果，但解释其内部机制是一个具有挑战性的问题。为应对该问题，我们利用特征空间中的多通道注意力机制。我们的网络架构允许我们为每个特征获得一个注意力掩码，而现有的CNN可视化方法仅提供所有特征的公共注意力掩码。我们将提出的多通道注意力机制应用于多属性识别任务。我们可以为每个特征和每个属性获得不同的注意力掩码。这些分析使我们深入洞察CNN的特征空间。在基准数据集上的实验结果表明，所提方法在准确捕捉数据属性的同时，对人类具有高可解释性。
引用
@article{arxiv.1904.13078,
title = {Interpretation of Feature Space using Multi-Channel Attentional Sub-Networks},
author = {Masanari Kimura and Masayuki Tanaka},
journal= {arXiv preprint arXiv:1904.13078},
year = {2019}
}
备注
CVPR2019 Workshop on Explainable AI