使用 CancelOut 层与投影损失的内在维度估计自编码器(IDEA)
机器学习
2026-01-22 v3 人工智能
数值分析
数值分析
摘要
本文介绍了内在维度估计自编码器(IDEA),它能够识别广泛数据集的潜在内在维度,这些数据集的样本位于线性或非线性流形上。除了估计内在维度外,IDEA 还能够在将原始数据集投影到相应的潜空间后对其进行重建,该潜空间使用重新加权的双重 CancelOut 层构建。我们的核心贡献是引入了投影重建损失项,通过在移除一个额外潜维度的条件下持续评估重建质量来指导模型训练。我们首先在一系列理论基准上评估 IDEA 的性能以验证其鲁棒性。这些实验使我们能够测试其重建能力,并将其性能与最先进的内在维度估计器进行比较。基准测试表明我们的方法具有良好的准确性和高度的通用性。随后,我们将模型应用于由垂直分辨一维自由表面流数值解生成的数据,遵循水平方向、垂直方向和时间上的垂向速度剖面逐点离散化。IDEA 成功估计了数据集的内在维度,随后通过直接在网络识别的投影空间内工作,重建了原始解。
引用
@article{arxiv.2509.10011,
title = {Intrinsic Dimension Estimating Autoencoder (IDEA) Using CancelOut Layer and a Projected Loss},
author = {Antoine Oriou and Philipp Krah and Julian Koellermeier},
journal= {arXiv preprint arXiv:2509.10011},
year = {2026}
}
备注
Code available: https://doi.org/10.5281/zenodo.18314616 Github: https://github.com/antoineor/IDEA-for-Shallow-Flows/tree/v1.1