混合实值与复值神经网络架构
机器学习
2025-04-07 v1
摘要
我们提出了一种混合实值与复值神经网络（HNN）架构，旨在结合实值处理的计算效率与有效处理复值数据的能力。我们通过展示实值神经网络（RVNN）如何学习执行复值卷积，但由于其实值约束而存在显著低效，说明了将RVNN用于固有复值问题的局限性。为构建HNN，我们提出使用包含实值和复值路径的构建块，其中域间信息通过域转换函数交换。我们还引入了新颖的复值激活函数，具有更高的泛化效率和参数化效率。描述了HNN特定的架构搜索技术，以探索更大的解空间。在AudioMNIST数据集上的实验表明，在所有考虑的情况下，HNN相比RVNN降低了交叉熵损失并消耗更少的参数。这些结果突显了在神经网络中使用部分复值处理的潜力，以及HNN在许多信号处理领域的应用前景。
引用
@article{arxiv.2504.03497,
title = {Hybrid Real- and Complex-valued Neural Network Architecture},
author = {Alex Young and Luan Vinícius Fiorio and Bo Yang and Boris Karanov and Wim van Houtum and Ronald M. Aarts},
journal= {arXiv preprint arXiv:2504.03497},
year = {2025}
}