全导数观测下的高斯过程回归扩展
机器学习
2026-02-03 v2 机器学习
摘要
我们提出了一种称为DSoftKI的可扩展高斯过程（GP）方法，能够拟合和预测完整的导数观测。DSoftKI扩展了SoftKI方法，该方法通过软最大插值逼近核函数。DSoftKI通过将其全局温度向量替换为与每个插值点相关联的局部温度向量来增强SoftKI的插值方案。此修改允许模型编码局部方向灵敏度，从而通过插值构建包括其一阶和二阶导数的可扩展近似核。此外，插值方案消除了核导数的需求，促进了诸如深度核学习（DKL）等扩展。我们在合成基准、玩具n-body物理仿真、标准回归数据集（带合成梯度）以及高维分子力场预测（100-1000维）上评估了DSoftKI。我们的结果表明，DSoftKI在准确性和处理全导数观测的规模方面均优于以往可行的方法。
引用
@article{arxiv.2505.09134,
title = {Scaling Gaussian Process Regression with Full Derivative Observations},
author = {Daniel Huang},
journal= {arXiv preprint arXiv:2505.09134},
year = {2026}
}
备注
13 pages, Published in TMLR