动态迹估计

我们研究隐式迹估计问题的动态版本。给定用于计算动态变化矩阵 A 的矩阵-向量乘法的预言机访问权限,我们的目标是使用尽可能少的乘法来维持对 A 的迹的准确近似。我们提出了一种求解该问题的实用算法,并证明在一种自然设定下,其复杂度比重复应用 Hutchinson 随机迹估计器的标准解法在二次意义上更优。我们还给出了在动态矩阵 A 上假设略强条件下的改进算法。我们用实证结果支撑我们的理论,展示了在机器学习和网络科学中三个应用上的显著计算改进:在神经网络优化过程中跟踪 Hessian 谱密度的矩、计数三角形,以及在动态变化图中估计自然连通度。