基于熵最优特征的稀疏核近似的泛化保证
机器学习
2020-02-12 v1 机器学习
摘要
尽管核方法取得成功，其在实践中面临巨大的计算代价。本文中，我们不同于常用的针对 个输入的核展开，提出了一种在核特征中最大化熵的最优设计。该过程得到关于熵最优特征（EOF）的核展开，由于特征相异而显著改善数据表示。在温和技术假设下，我们的泛化界表明仅需 个特征（忽略对数因子）即可达到最优统计精度（即 ）。我们设计的显著特征是其稀疏性，大幅降低了时间与空间代价。在基准数据集上的数值实验验证了EOF相对于核近似最优方法的优越性。
引用
@article{arxiv.2002.04195,
title = {Generalization Guarantees for Sparse Kernel Approximation with Entropic Optimal Features},
author = {Liang Ding and Rui Tuo and Shahin Shahrampour},
journal= {arXiv preprint arXiv:2002.04195},
year = {2020}
}