谱信号检测阈值与 Stieltjes 变换的快速计算

在低信噪比的统计应用中，信号分量的准确检测是一个经常遇到的挑战。在具有异方差噪声的设置中，该问题尤为困难。在某些数据的信号加噪声模型中，例如经典的尖峰协方差模型及其变体，对于各向同性噪声在无限大数据库极限下，谱信号检测阈值（仅由噪声引起的最大样本特征值）存在闭式公式。然而，更一般的噪声模型目前缺乏可证明快速且准确的数值评估阈值的方法。在这项工作中，我们引入了一种在无限大数据库极限下评估谱信号检测阈值的快速算法。我们考虑具有可分离方差轮廓（其方差矩阵为秩一）的噪声矩阵，因为这些在应用中经常出现。该解基于牛顿法的嵌套应用。我们还设计了一种新算法，用于在超过阈值的实数值处评估谱分布的 Stieltjes 变换。已知该域上的 Stieltjes 变换是谱去噪方法参数估计中的关键量。两种算法的正确性通过对刻画 Stieltjes 变换的主方程进行详细分析得到证明，并在数值实验中展示了它们的性能。