局部 Hessian 谱滤波用于稳健的固有维度估计
机器学习
2026-05-05 v1
摘要
虽然扩散模型为估计局部固有维度（LID）提供了新方法，但现有方法在高维空间中难以处理——由于正常方向的噪声在正常方向上远大于切向信号。我们提出局部 Hessian 谱维度（LHSD），通过对对数密度 Hessian 应用谱滤波，显式剔除与正常方向相关的大特征值，从而计数为零曲率的切向方向。采用随机 Lanczos 量化（SLQ）实现，LHSD避免了完整 Hessian 的构建，实现了与维度 D 线性的可扩展性。实验在合成数据和真实数据上表明，LHSD在鲁棒性上具有优势，并在检测大规模扩散模型中的记忆现象方面具有实用价值。
引用
@article{arxiv.2605.01221,
title = {Local Hessian Spectral Filtering for Robust Intrinsic Dimension Estimation},
author = {Genki Osada},
journal= {arXiv preprint arXiv:2605.01221},
year = {2026}
}
备注
Accepted at ICML 2026