流形上概率学习的瞬态各向异性核
机器学习
2024-08-01 v1 机器学习
摘要
PLoM(流形上概率学习)是 2016 年提出的一种方法,用于处理小规模训练数据集,其通过将 Itô 方程从随机耗散哈密顿动力学系统中投影出来作为 MCMC 生成器,使得以训练数据集估计的 KDE 概率测度为其不变测度。PLoM 在与训练数据集相关的降阶向量基上执行投影,使用由时间无关各向同性核构建的扩散映射(DMAPS)基。本文提出了一种由瞬态各向异性核构建的新 ISDE 投影向量基,作为 DMAPS 基的替代方案,以改进具有异质数据的随机流形的统计代理。该构造确保在接近初始时间时,DMAPS 基与瞬态基重合。对于更大的时间,两个基之间的差异由其张成向量子空间的夹角来刻画。通过信息论中的互信息估计确定产生最优瞬态基的最优时刻,该估计通过熵估计进行归一化,以考虑估计中所用实现次数的影响。因此,这个新向量基更好地表示了任意维度下学习到的概率测度中的统计依赖性。三个具有不同统计复杂度和数据异质性的应用验证了所提出的理论,表明瞬态各向异性核改善了学习到的概率测度。
引用
@article{arxiv.2407.21435,
title = {Transient anisotropic kernel for probabilistic learning on manifolds},
author = {Christian Soize and Roger Ghanem},
journal= {arXiv preprint arXiv:2407.21435},
year = {2024}
}
备注
44 pages, 14 figures