论自动微分与符号微分的等价性
符号计算
2022-12-06 v4 机器学习
摘要
我们表明，反向模式自动微分与符号微分在计算导数时执行相同的运算，因而是等价的。这与通常认为二者有本质区别的说法形成鲜明对比。该区别常被表述为：符号微分存在“表达式膨胀”而自动微分没有。在此我们证明这一说法并不成立。“表达式膨胀”指的是导数表示比原函数表示大得多的现象。
引用
@article{arxiv.1904.02990,
title = {On the Equivalence of Automatic and Symbolic Differentiation},
author = {Soeren Laue},
journal= {arXiv preprint arXiv:1904.02990},
year = {2022}
}