图卷积神经常微分方程的向量化伴随灵敏度方法
机器学习
2022-09-16 v1 数值分析
数值分析
摘要
如标题所述，本文档旨在为图卷积神经常微分方程（GCDE）提供伴随动力学计算的向量化实现。伴随灵敏度方法是神经ODE的梯度近似方法，用于替代反向传播。在PyTorch或Tensorflow等库上实现时，伴随可通过自动梯度函数计算，无需手工推导公式。然而，在边缘计算和忆阻器交叉阵列等应用中，自动梯度不可用，因此我们需要向量化推导伴随动力学，以将系统高效映射到硬件上。本文档将先介绍基础知识，然后推导GCDE的向量化伴随动力学。
引用
@article{arxiv.2209.06886,
title = {Vectorized Adjoint Sensitivity Method for Graph Convolutional Neural Ordinary Differential Equations},
author = {Jack Cai},
journal= {arXiv preprint arXiv:2209.06886},
year = {2022}
}