基于相干性的仿射空间优化近似导数

计算导数是计算机科学及相关领域的关键子程序，因为它提供了函数最陡上升或下降方向的局部分辨。在本工作中，我们认识到导数往往不是孤立计算的；恰恰相反，人们常常计算一序列导数，彼此之间存在一定关联。因此，我们提出通过重用来自以往、关联计算的信息来加速导数的计算——这是一种通用策略，称为"相干性"。我们通过一种新颖的方法引入了该策略，称为"仿射空间网络优化"（Web of Affine Spaces, WASP）。该方法在序列中的当前输入处提供函数导数对象的准确近似（即梯度、雅可比矩阵等）。序列中每个导数的计算仅需对函数进行少量前向传播（通常为两个）， regardless of the number of function inputs and outputs。我们通过多个数值实验展示了该方法的有效性，将其与替代导数计算方法进行比较。我们表明该方法在小到中等规模函数（即约有 500 个输入输出数组合的函数）上的计算性能显著提升。此外，我们表明该方法可有效应用于机器人优化情境。我们结尾讨论了本工作的局限性与意涵。开源代码、可视化解释及视频均位于论文网站：https://apollo-lab-yale.github.io/25-RSS-WASP-website/。