WSEBP：一种基于宽度-深度同步扩展的多层卷积稀疏编码基追踪新算法
计算机视觉与模式识别
2022-03-31 v2 机器学习
摘要
集成于多层卷积稀疏编码（ML-CSC）中的追踪算法可解释卷积神经网络（CNNs）。然而，许多当前最先进（SOTA）追踪算法需多次迭代以优化 ML-CSC 的解，因获取极微小性能提升的高计算成本与大量资源，限制了其在更深 CNNs 中的应用。本研究聚焦于追踪算法的第 0 次迭代，通过为各层引入有效初始化策略，从而改进 ML-CSC 的解。具体而言，我们首先提出一种新颖的基于宽度-深度同步扩展的基追踪（WSEBP）算法，其相较 SOTA 算法不受迭代次数限制，并通过各层有效初始化最大化性能。然后，我们提出一个简洁统一的基于 ML-CSC 的分类网络（ML-CSC-Net），由基于 ML-CSC 的特征编码器与全连接层组成，以在图像分类任务上验证 WSEBP 性能。实验结果表明，所提 WSEBP 在准确率与资源消耗上均优于 SOTA 算法。此外，集成于 CNNs 中的 WSEBP 可提升更深 CNNs 性能并使其可解释。最后，以 VGG 为例，我们提出 WSEBP-VGG13 以增强 VGG13 性能，其在四个公开数据集上取得具竞争力结果，即在 Cifar-10 上 87.79% vs. 86.83%，Cifar-100 上 58.01% vs. 54.60%，COVID-19 上 91.52% vs. 89.58%，Crack 上 99.88% vs. 99.78%。结果显示所提 WSEBP 的有效性、带 WSEBP 的 ML-CSC 性能提升，以及对 CNNs 或更深 CNNs 的解释性。
引用
@article{arxiv.2203.14856,
title = {WSEBP: A Novel Width-depth Synchronous Extension-based Basis Pursuit Algorithm for Multi-Layer Convolutional Sparse Coding},
author = {Haitong Tang and Shuang He and Lingbin Bian and Zhiming Cui and Nizhuan Wang},
journal= {arXiv preprint arXiv:2203.14856},
year = {2022}
}