Pivoted Cholesky算法的收敛性分析

我们研究了Cholesky分解的连续类方法，即Pivoted Cholesky算法。我们的分析为最低光滑性的核函数建立了定量收敛保证。我们证明，对于定义在紧致域$\Omega\subset\mathbb{R}^d$上的对称正定Lipschitz连续核函数$K:\Omega\times\Omega \rightarrow \mathbb{R}$，带有任意选枢 strategy的Cholesky算法的残差在均匀地上被一个常数倍的枢轴距离所支配。在特别地，当采用完全选枢法（即选择残差对角元的最大值作为下一个枢轴）时：\begin{equation*} \|R_n\|_{\infty} = O(n^{-1/d}), \end{equation*}其中$R_n$是第n步Cholesky算法后的残差，$\|\cdot\|_{\infty}$是$R_n$的绝对最大值。此外，如果$K$在两个变量上都可微且导数满足Lipschitz条件，我们的收敛率可提高到$O(n^{-2/d})$。我们的结果填补了理论与实践之间的鸿沟，因为以往的分析要求$K$具有$C^2$光滑性才能建立收敛性，而经验证据表明即使针对非可微核函数该算法也表现出鲁棒性能。我们进一步详细阐述了这些收敛结果如何传播到下游应用，包括离散类比、Gaussian过程回归和P-greedy插值方法。