广义核稀疏化

Dwivedi 与 Mackey (2021) 的核稀疏化（KT）算法通过针对再生核希尔伯特空间（RKHS）并利用较不光滑的平方根核，比独立采样更有效地压缩概率分布。本文给出四项改进。第一，我们证明直接对目标 RKHS 应用 KT，可对任何核、任何分布以及 RKHS 中任意固定函数给出更紧的、与维度无关的保证。第二，我们证明对于高斯、反多重二次和 sinc 等解析核，目标 KT 在不显式使用平方根核的情况下，可获得与平方根 KT 相当或更好的最大均值差异（MMD）保证。第三，我们证明使用分数幂核的 KT 对于 Laplace 和 Matérn 等没有平方根的非光滑核，可给出优于蒙特卡洛的 MMD 保证。第四，我们确立将 KT 应用于目标核与幂核之和（我们称为 KT+ 的过程）可同时继承幂 KT 改进的 MMD 保证与目标 KT 更紧的单个函数保证。在目标 KT 与 KT+ 的实验中，我们甚至在 $100$ 维以及压缩困难的微分方程后验时，都观察到积分误差的显著改善。