四元数分量在卷积神经网络中的统计影响分析
机器学习
2024-09-04 v1 人工智能
计算机视觉与模式识别
神经与进化计算
摘要
近年来，针对不同问题提出了若干采用四元数卷积神经网络（QCNN）的模型。尽管四元数卷积层的定义相同，但其他原子组件（如池化层、激活函数、全连接层等）在四元数域上的适应方式存在差异。然而，选择特定类型组件及其相互作用对模型性能的影响仍不明确。理解这些选择对模型性能的影响对于有效利用QCNN至关重要。本文基于实验数据进行统计分析，比较现有组件在图像分类问题中的性能。此外，本文引入一种新型全四元数ReLU激活函数，利用四元数代数特性提升模型性能。
引用
@article{arxiv.2409.00140,
title = {Statistical Analysis of the Impact of Quaternion Components in Convolutional Neural Networks},
author = {Gerardo Altamirano-Gómez and Carlos Gershenson},
journal= {arXiv preprint arXiv:2409.00140},
year = {2024}
}
备注
17 pages, 6 figures