Zenkai——面向超越反向传播探索的框架
机器学习
2023-11-17 v1
摘要
Zenkai是一个开源框架，旨在为研究者提供对构建与训练深度学习机器更大的控制与灵活性。其将深度学习机器划分为具有自身目标与学习算法的半自主学习机器层。此举旨在让研究者能进行更广探索，例如使用不可微分层或基于误差反向传播之外的学习算法。Rumelhart等人[1986]提出的反向传播使深度学习成为21世纪最令人振奋的领域之一。因此，大量软件工具被开发出来，以支持通过反向传播高效实现与训练神经网络。尽管这些工具对深度学习的成功至关重要，但围绕反向传播构建框架会使实现不遵从该范式的方法颇具挑战。Zenkai旨在缓解这些限制，帮助研究者更轻松地探索不严格遵循反向传播框架的深度学习新前沿。
引用
@article{arxiv.2311.09663,
title = {Zenkai -- Framework For Exploring Beyond Backpropagation},
author = {Greg Short},
journal= {arXiv preprint arXiv:2311.09663},
year = {2023}
}
备注
14 pages. Source code available at https://www.github.com/short-greg/zenkai with documentation at https://zenkai.readthedocs.io/en/latest/. Can be installed with pip install zenkai