中文

Dragon-Alpha&cu32:一个带有高性能 CUDA 库的基于 Java 的张量计算框架

机器学习 2023-05-16 v1 软件工程

摘要

Java 非常强大,但在深度学习领域,其能力可能尚未被充分挖掘。与基于 Java 的深度学习框架相比,基于 Python 的(PyTorch、TensorFlow 等)无疑是主流,因其易用、灵活且生态更好。Dragon-Alpha 是一个基于 Java 的张量计算框架,具有易用、高可扩展性和高性能,试图打破 Java 在深度学习领域的困境并使其更有效。Dragon-Alpha 支持不同层级 API,并可通过其用户友好的高层 API 用作深度学习框架。Dragon-Alpha 有潜力基于其多层架构和 Java 大数据生态聚合跨异构平台与设备的算力。Dragon-Alpha 具有异步 API 以提升并行性,以及高度优化的 CUDA 库 cu32,其采用针对小特征图的独特卷积\反卷积算子。实验表明,相比 PyTorch&cuDNN,Dragon-Alpha&cu32 在 Cifar-10 上训练一些典型神经网络(AlexNet、VGG、GoogleNet、ResNet)时耗时与内存更少(75.38% 至 97.32%,29.2% 至 66.4%)。

关键词

引用

@article{arxiv.2305.08819,
  title  = {Dragon-Alpha&cu32: A Java-based Tensor Computing Framework With its High-Performance CUDA Library},
  author = {Zhiyi Zhang and Pengfei Zhang and Qi Wang},
  journal= {arXiv preprint arXiv:2305.08819},
  year   = {2023}
}

备注

7 pages. About: deep learning, deep neural networks (DNNs), system architecture, software engineering. The code of Alpha&cu32, and the experimental-data can be download at https://github.com/GilgameshXYZ123/Dragon-Alpha