大型高性能激光神经网络的无模型前沿训练
机器学习
2025-03-24 v1 新兴技术
摘要
人工神经网络（ANN）已广泛普及并在计算机视觉、医疗诊断等诸多应用领域取得革命性进展。然而，它们采用根本上基于连接主义和分布式的计算方式，与采用冯·诺依曼体系结构的经典计算机形成鲜明对比。这一区别催生了对开发更高效实现 ANN 的非传统硬件的新兴interest。光子学因其可扩展性、高速、高能效以及并行信息处理能力，成为尤为有前景的平台。然而，完全自主且具内在学习能力的光子神经网络（ONN）仍鲜有实现。本文我们展示了使用商用组件构建的一个完全自主且并行的 ONN，基于多模垂直腔面发射激光器（VCSEL）。该ONN在网络规模和推理带宽方面均具备高效性与可扩展性，可向 GHz 范围发展。为最大限度地发挥ONN的潜力，必须开发与硬件兼容的高性能优化算法，以减少对外部冯·诺依曼计算机的依赖。因此，我们本文提出并广泛研究了若干与广泛系统兼容的算法，然后将这些算法应用于我们的ONN优化，并使用MNIST数据集进行基准测试。我们表明，尽管硬件资源有限，该ONN仍能实现高准确率与收敛效率。关键在于，我们在收敛时间这一关键指标上比较了不同算法，这在依赖有限外部资源的情境下尤为重要。我们的工作为未来ONN的设计提供了指导，并提供了一种简单且灵活的训练方法。
引用
@article{arxiv.2503.16943,
title = {Model-free front-to-end training of a large high performance laser neural network},
author = {Anas Skalli and Satoshi Sunada and Mirko Goldmann and Marcin Gebski and Stephan Reitzenstein and James A. Lott and Tomasz Czyszanowski and Daniel Brunner},
journal= {arXiv preprint arXiv:2503.16943},
year = {2025}
}