胶囊网络可解释性的改进：基于一致性的关联路径
计算机视觉与模式识别
2018-03-01 v1
摘要
信号处理与机器学习领域的最新进展使得深度学习模型因其在重大工程意义的不同且具有挑战性问题上前所未有的性能与高精度而引发广泛兴趣。然而，当此类深度学习架构被用于制定涉及人类生命的关键决策（例如医疗应用）时，理解、信任并一言以蔽之“解释”深度模型决策背后的合理性至关重要。目前，深度学习模型通常被视为黑盒系统，不提供任何关于其内部处理行为的线索。尽管近期已开展一些解释深度网络行为与决策的努力，可解释人工智能（XAI）领域仍处于起步阶段。对此，我们考量胶囊网络（称为 CapsNets），其为新颖的深度结构；近期作为卷积神经网络（CNNs）的替代对应物被提出，并有望改变机器智能的未来。本文中，我们研究并分析 CapsNets 的结构与行为，并阐明此类网络潜在的可解释性属性。此外，我们展示了通过在不同层中用胶囊替代 CNNs 的卷积层，将深度学习架构转化为透明网络的可能性。
引用
@article{arxiv.1802.10204,
title = {Improved Explainability of Capsule Networks: Relevance Path by Agreement},
author = {Atefeh Shahroudnejad and Arash Mohammadi and Konstantinos N. Plataniotis},
journal= {arXiv preprint arXiv:1802.10204},
year = {2018}
}