中文

自动微分中的喷射函子与韦尔代数:几何分析

机器学习 2025-11-13 v2 微分几何 机器学习

摘要

我们提出了一种基于喷射函子(Jet Functors)和韦尔代数(Weil Algebras)的自动微分(Automatic Differentiation, AD)差分几何表述。在此框架下,前向模式和逆向模式微分自然地分别作为推Forward(pushforward)和余切拉回(cotangent pullback),而更高阶微分则对应于在韦尔代数中的求值。该构造提供了关于导数传播的统一、坐标无关的视角,并阐明了 AD 背后代数结构的内在逻辑。所有结果在现代 JAX 中实现,其中韦尔-模式表述能够以单次前向传播计算所有混合导数,计算成本随代数维度呈线性增长。最终得到的实现实现了代数上精确且数值稳定的微分,具有可预测的扩展性能,表明几何抽象确实能够产生更高效、更透明的计算微分系统。代码已公开于 https://git.nilu.no/geometric-ad/jet-weil-ad

关键词

引用

@article{arxiv.2510.14342,
  title  = {Jet Functors and Weil Algebras in Automatic Differentiation: A Geometric Analysis},
  author = {Amandip Sangha},
  journal= {arXiv preprint arXiv:2510.14342},
  year   = {2025}
}