高斯核的双随机归一化对异方差噪声具有鲁棒性
机器学习
2021-01-27 v2 信息论
机器学习
math.IT
摘要
许多数据分析技术的一个基本步骤是构建描述数据点间相似度的亲和矩阵。当数据点居于欧氏空间时，一种广泛采用的方法是利用成对距离通过高斯核形成亲和矩阵，并随之进行某种归一化（例如行随机归一化或其对称变体）。我们证明具有零主对角线（即无自环）的高斯核双随机归一化对异方差噪声具有鲁棒性。也就是说，双随机归一化的优势在于它自动考虑了具有不同噪声方差的观测。具体地，我们证明在异方差噪声不在空间中任何特定方向过度集中的合适高维设定下，所得的（双随机）含噪亲和矩阵以其干净对应项收敛，速率为 ，其中 为 ambient 维数。我们以数值方式演示了该结果，并表明相比之下，流行的行随机与对称归一化在异方差噪声下表现不利。此外，我们提供了具有内在异方差的模拟与实验单细胞 RNA 序列数据示例，其中双随机归一化在探索性分析中的优势显而易见。
引用
@article{arxiv.2006.00402,
title = {Doubly-Stochastic Normalization of the Gaussian Kernel is Robust to Heteroskedastic Noise},
author = {Boris Landa and Ronald R. Coifman and Yuval Kluger},
journal= {arXiv preprint arXiv:2006.00402},
year = {2021}
}