PDR-CapsNet：一种用于胶囊网络动态路由的节能并行方法
机器学习
2023-10-06 v1
摘要
卷积神经网络（CNNs）在图像分类任务中取得了最先进的成果。然而，由于最大池化层中的信息丢失，它们处理旋转和视角变化的能力有限。胶囊网络（CapsNets）采用一种称为动态路由的计算昂贵迭代过程来解决这些问题。然而，CapsNets在复杂数据集上往往表现不足，且比CNNs需要更多计算资源。为克服这些挑战，我们引入了并行动态路由胶囊网络（PDR-CapsNet），一种比CapsNet更深且更节能的替代方案，其提供优越性能、更低能耗和更低过拟合率。通过利用并行化策略，PDR-CapsNet缓解了CapsNet的计算复杂性并提高了吞吐量，高效利用硬件资源。结果，在CIFAR-10数据集上，与CapsNet相比，我们在2080Ti GPU（11GB VRAM）上实现了83.55%准确率，同时所需参数减少87.26%，MACs减少32.27%，Flops减少47.40%，推理速度提升3倍，能耗降低7.29J。
引用
@article{arxiv.2310.03212,
title = {PDR-CapsNet: an Energy-Efficient Parallel Approach to Dynamic Routing in Capsule Networks},
author = {Samaneh Javadinia and Amirali Baniasadi},
journal= {arXiv preprint arXiv:2310.03212},
year = {2023}
}