中文

基于分袋法的局部固有维数估计研究

机器学习 2026-03-26 v1 机器学习

摘要

局部固有维数(LID)理论已成为刻画数据流形内部及跨流形局部复杂性的有价值工具,支持数据挖掘和机器学习任务。 accurate 的 LID 估计需要从每个查询点周围的小邻域中抽取样本,以避免来自非局部效应和潜在流形混合的偏差,但此类邻域内数据有限往往导致高估计方差。作为降低方差的策略,我们提出一种采用子分袋(subbagging)保留最近邻(NN)距离局部分布的集方法。主要挑战在于,总样本量在每个子样本中的均匀减少会增加寻找查询点周围固定数量 k 个最近邻的近似阈值。结果就在 LID 估计的特定语境中,抽样率与邻域大小之间存在额外的复杂相互作用,其中两者共同决定了估计所考虑的样本规模、局域性和分辨率。我们在理论和实验上分析抽样率和用于 LID 估计的 k-NN 规模,以及集方法对性能的影响,使我们能够根据应用偏好做出明智的先验参数选择。我们的结果表明,在广泛且已充分特征化的参数空间内,使用分袋估计器通常会显著降低方差和均方误差,同时对偏差影响可控。我们还提出并评估了不同方式将分袋与邻域平滑结合,以获得对 LID 估计性能的进一步显著提升。

关键词

引用

@article{arxiv.2603.24384,
  title  = {On the Use of Bagging for Local Intrinsic Dimensionality Estimation},
  author = {Kristóf Péter and Ricardo J. G. B. Campello and James Bailey and Michael E. Houle},
  journal= {arXiv preprint arXiv:2603.24384},
  year   = {2026}
}

备注

Main document: 10 pages, 5 figures; Appendix: 38 pages, 27 figures