编织、连线与态射：深度学习代数的形式化与实现
机器学习
2026-04-21 v2 范畴论
摘要
尽管深度学习模型运行着定义明确的数学函数，但我们缺乏描述模型架构的正式数学框架。临时符号、图表和伪代码难以处理非线性广播以及单个组件与组合模型之间的关系。本文提出了一种用于深度学习模型的范畴框架，通过新颖的轴步长范畴和数组广播范畴将广播操作形式化。这使得底层架构的数学函数能够以组合化的方式被精确表达和操作。这些数学定义被转化为人类可管理的图表和机器可管理的数据结构。我们提供了 Python（pyncd）和 TypeScript（tsncd）的镜像实现，以展示我们框架的通用性，并包含代数构造、图转换、PyTorch 编译和图表渲染等功能。这为深度学习模型的系统化、形式化设计与分析奠定了基础。
引用
@article{arxiv.2604.07242,
title = {Weaves, Wires, and Morphisms: Formalizing and Implementing the Algebra of Deep Learning},
author = {Vincent Abbott and Gioele Zardini},
journal= {arXiv preprint arXiv:2604.07242},
year = {2026}
}