利用参数化超复数乘法提升 ResNet 图像分类性能
计算机视觉与模式识别
2023-01-12 v1
摘要
近来，许多深度网络将超复数及相关运算引入其架构。就用于分类的卷积网络而言，这些增强被应用于前端卷积操作，以提升精度和/或在不损失精度的情况下减少参数需求。尽管这些增强已用于卷积前端，但是否将超复数运算加至密集连接后端可提升性能尚无人研究。本文研究 ResNet 架构，并将参数化超复数乘法（PHM）融入残差、四元数与向量图卷积神经网络的后端以评估其效果。我们表明，PHM 在多个图像数据集上确实提升了分类精度，包括小尺寸低分辨率的 CIFAR 10/100 与大体量高分辨率的 ImageNet 和 ASL，并且能为超复数网络取得最先进的精度。
引用
@article{arxiv.2301.04623,
title = {Enhancing ResNet Image Classification Performance by using Parameterized Hypercomplex Multiplication},
author = {Nazmul Shahadat and Anthony S. Maida},
journal= {arXiv preprint arXiv:2301.04623},
year = {2023}
}