QuadraLib：用于架构优化与设计探索的高性能二次神经网络库
机器学习
2022-04-06 v1 计算机视觉与模式识别
摘要
深度神经网络（DNNs）的显著成功很大程度上得益于多种成熟的 DNN 库。相反，尽管一些工作已证明二次深度神经元网络（QDNNs）相较一阶 DNNs 展现出更好的非线性和学习能力，其神经元设计在从理论性能到实际部署上存在某些缺陷。本文中，我们首先提出了一种新的 QDNN 神经元架构设计，并进一步开发了 QuadraLib，一个为 QDNNs 提供架构优化与设计探索的 QDNN 库。大量实验表明，我们的设计在多项学习任务上于预测精度与计算消耗方面均具良好性能。
引用
@article{arxiv.2204.01701,
title = {QuadraLib: A Performant Quadratic Neural Network Library for Architecture Optimization and Design Exploration},
author = {Zirui Xu and Fuxun Yu and Jinjun Xiong and Xiang Chen},
journal= {arXiv preprint arXiv:2204.01701},
year = {2022}
}