迈向玻璃盒式 CNN
计算机视觉与模式识别
2022-11-10 v3 机器学习
摘要
随着神经网络在敏感领域取得显著性能，对可解释深度学习模型的需求日益增长。主要挑战在于揭示深度神经网络篮式映射内部隐藏的多尺度与分布式表示。研究者一直试图通过特征可视化分析、数学结构或其他数据驱动方法来理解它。本文致力于 CNN 表示的实现不变性，并提出一个解析性二元原型，为大规模实际应用提供有益见解。我们首先展开常规 CNN，再以更透明的表示重新封装。受神经网络成就启发，我们选择以三层模型呈现发现。第一层为表示层，涵盖输入图像的类别信息（群不变）与对称变换（群等变）。通过这些变换，我们减小类内距离并增大类间距离。随后经降维层传入分类器。为更好地传播仿真结果，我们将所提表示与 AlexNet（CNN）内部表示的等变性进行比较。我们预见该玩具模型的即时优势包括：i) 有助于数据预处理以提升大规模问题中的特征或类别可分性；ii) 有助于设计神经架构以改善多类问题的分类性能；iii) 有助于通过可扩展功能模块构建可解释 CNN。
引用
@article{arxiv.2101.10443,
title = {Towards glass-box CNNs},
author = {Piduguralla Manaswini and Jignesh S. Bhatt},
journal= {arXiv preprint arXiv:2101.10443},
year = {2022}
}