维度之乐：无监督准则如何识别高维数据集的最优低分辨率表示
统计力学
2026-03-06 v1
摘要
为离散化高维数据选择最优分辨率是物理和数据分析中的核心问题，尤其是在缺乏底层分布信息的无监督场景中。Relevance-Resolution（Res-Rel）框架通过描述细节与统计可靠性之间的信息论权衡来解决此问题。本文通过将其特征极值——最大相关性和 -1 斜率（信息论）点——与从已知或物理动机驱动的真实分布中最小化 Kullback-Leibler 发散的离散化进行比较，系统性地验证了该方法的有效性。在非结构化和结构化人工数据集、MNIST 的高斯克隆版本以及阿兰林二肽的分子动力学模拟中，我们发现随着维度数或信息内容的增加，KL 最优离散化始终位于 Res-Rel 最优区域内。此外，在高维 regime 中，-1 斜率准则与 KL 散度最小值高度吻合。这些结果确立了无监督信息论选择方法在分布基于最优性方面的定量一致性。
引用
@article{arxiv.2603.05214,
title = {The bliss of dimensionality: how an unsupervised criterion identifies optimal low-resolution representations of high-dimensional datasets},
author = {Margherita Mele and Daniel Campos Moreno and Raffaello Potestio},
journal= {arXiv preprint arXiv:2603.05214},
year = {2026}
}