高维几何中相变的普适性观测及其对现代数据分析和信号处理的启示

我们回顾了高维组合几何中的相变与现代高维数据分析和信号处理中出现的相变之间的联系。在数据分析中，当模型复杂度或异常值数量超过某个阈值时，这些相变表现为线性模型选择、鲁棒数据拟合或压缩感知重建的突然失效。在组合几何中，当维度变化时，这些相变表现为凸多面体面计数性质的突变。在适当校准变量后，这些截然不同问题中的阈值出现在相同的临界位置。这些阈值在每个学科领域都很重要：对于线性建模，它们对如今无处不在的高通量数据分析所能成功的程度设置了硬性限制；对于鲁棒性，它们对标准鲁棒拟合方法在失效前能容忍异常值的程度设置了硬性限制；对于压缩感知，它们定义了欠采样定理中欠采样/稀疏性权衡的清晰边界。组合几何中相变的现有推导假设底层矩阵具有独立同分布(iid)的高斯元素。然而，在应用中，高斯性似乎通常并非必需。我们进行了广泛的计算实验和正式的推断分析，以检验这些相变在一系列底层矩阵系综中具有普适性的假设。实验结果与跨矩阵系综的渐近大n普适性一致；有限样本的普适性可以被拒绝。