RKHS 中密度比的自适应学习
机器学习
2024-03-12 v3 统计理论
机器学习
统计理论
摘要
从密度的有限观测中估计两个概率密度的比值是机器学习与统计学中的一个核心问题，在双样本检验、散度估计、生成建模、协变量偏移适应、条件密度估计和新颖性检测中具有应用。在本工作中，我们分析了一大类密度比估计方法，这些方法在再生核 Hilbert 空间（RKHS）中最小化真实密度比与模型之间的正则化 Bregman 散度。我们推导了新的有限样本误差界，并提出了一种 Lepskii 型参数选择原则，其在不知晓密度比正则性的情况下使误差界最小化。在二次损失的特殊情形下，我们的方法自适应地达到了极小极大最优误差率。文中给出了数值说明。
引用
@article{arxiv.2307.16164,
title = {Adaptive learning of density ratios in RKHS},
author = {Werner Zellinger and Stefan Kindermann and Sergei V. Pereverzyev},
journal= {arXiv preprint arXiv:2307.16164},
year = {2024}
}