稀疏量化谱聚类
机器学习
2021-03-18 v1 机器学习
谱理论
摘要
给定一个大型数据矩阵,稀疏化、量化和/或执行其他逐元素非线性操作可带来诸多益处,从加速核心数值线性代数问题的迭代算法,到提供设计最先进神经网络模型的非线性滤波器。此处,我们利用随机矩阵理论工具,精确描述矩阵在此类非线性变换下特征谱的变化。特别地,我们表明即使在极度稀疏化/量化下,信息性特征结构也几乎不改变,因此非常激进的稀疏化或量化谱聚类几乎不造成下游性能损失。我们阐明了这些结果如何依赖于非线性,刻画了谱聚类成为可能的一个相变,并展示了此类非线性变换何时会引入伪信息性特征向量。
引用
@article{arxiv.2010.01376,
title = {Sparse Quantized Spectral Clustering},
author = {Zhenyu Liao and Romain Couillet and Michael W. Mahoney},
journal= {arXiv preprint arXiv:2010.01376},
year = {2021}
}