GP-HMAT：基于分层低秩矩阵的可扩展 ${O}(n\log(n))$ 高斯过程回归

高斯过程（GP）是一种强大且广泛使用的回归技术。GP 回归的主要构建模块是协方差核，它刻画了随机场中成对点之间的关系。然而，寻找最优核的优化需要多次大规模且通常非结构化的矩阵求逆。我们通过引入一种名为 HMAT 的分层矩阵方法来应对这一挑战，该方法以递归方式有效地将矩阵结构分解为显著更小的矩阵，从而可直接用于求逆。我们的矩阵划分对数据点采用特定的聚合策略，从而促使分层核矩阵中非对角块的低秩结构。我们对低秩非对角块采用随机线性代数方法进行矩阵压缩，而无需分解大矩阵。我们给出了矩阵求逆的解析误差与代价估计，通过数值计算对其进行了实证考察，并在涉及工程问题 GP 回归和一个大规模真实数据集的三个数值算例上展示了我们方法的应用。我们提供了 GP-HMAT 的计算机实现（即适用于 GP 似然与导数计算的 HMAT）以及最后一个真实数据集数值算例的实现。我们通过可重复且可验证的实证研究，展示了 HMAT 方法相较于 MATLAB 中内置 $\backslash$ 算子在大规模线性求解 $\bf{A}\bf{x} = \bf{y}$ 上的优越可扩展性。作为未来研究，讨论了向分层半可分（HSS）矩阵的扩展。