FastONN——基于 Python 的运算神经网络开源 GPU 实现
神经与进化计算
2020-06-04 v1 机器学习
摘要
运算神经网络（ONNs）最近被提出作为一类针对网格结构数据的特殊人工神经网络。它们支持异构非线性运算以推广被广泛采用的基于卷积的神经元模型。本工作介绍了一种用于训练运算神经网络的快速 GPU 加速库 FastONN，其基于运算神经元的一种新颖向量化公式。借助用于反向传播的自动反向模式微分，FastONN 通过引入新算子集和自定义梯度流实现了更高的灵活性。此外，捆绑的辅助模块提供了用于跨不同数据划分的性能跟踪与检查点接口以及自定义指标。
引用
@article{arxiv.2006.02267,
title = {FastONN -- Python based open-source GPU implementation for Operational Neural Networks},
author = {Junaid Malik and Serkan Kiranyaz and Moncef Gabbouj},
journal= {arXiv preprint arXiv:2006.02267},
year = {2020}
}