用于克罗内克积回归与 P-样条的草图方法
数据结构与算法
2017-12-29 v1 机器学习
机器学习
摘要
TensorSketch 是 Pagh'13 中引入的一种不经意线性草图，后来在 Pham、Pagh'13 中被用于多项式核的 SVM 中。Avron、Nguyen、Woodruff'14 中已证明 TensorSketch 提供子空间嵌入，因此可用于多项式核的典型相关分析、低秩逼近与主成分回归。我们将 TensorSketch 带出多项式核的语境，并展示其在底层设计矩阵为较小矩阵的克罗内克积之应用中的效用。这使我们能求解克罗内克积回归与非负克罗内克积回归，以及正则化样条回归。我们的主要技术结果在于将 TensorSketch 扩展到其他范数。即，TensorSketch 仅针对 -范数下的克罗内克积回归提供输入稀疏性时间。我们展示如何以计算克罗内克积所需时间亚线性的时间求解 -范数下的克罗内克积回归，以及更一般的 -范数下的回归。
引用
@article{arxiv.1712.09473,
title = {Sketching for Kronecker Product Regression and P-splines},
author = {Huaian Diao and Zhao Song and Wen Sun and David P. Woodruff},
journal= {arXiv preprint arXiv:1712.09473},
year = {2017}
}
备注
AISTATS 2018