中文

TEC:面向大数据的张量集成分类器

机器学习 2021-03-02 v1 机器学习

摘要

张量(多维数组)分类问题在现代应用中已变得非常流行,例如图像识别和高维时空数据分析。支持张量机(STM)分类器由支持向量机扩展而来,以张量数据的CANDECOMP / Parafac(CP)形式作为输入并预测数据标签。STM的无分布和统计一致特性凸显了其在成功处理各类数据应用上的潜力。训练STM在高维张量下计算开销可能很大。然而,用随机投影技术缩减张量尺寸可降低计算时间和成本,使得在普通机器上处理大尺寸张量成为可能。我们将用随机投影张量估计的STM称为基于随机投影的支持张量机(RPSTM)。在本文中,我们提出一种张量集成分类器(TEC),它聚合多个RPSTM用于大张量分类。TEC利用集成思想最小化随机投影带来的过大分类风险,在获得RPSTM计算优势的同时提供统计一致的预测。由于每个RPSTM可独立估计,TEC可进一步利用并行计算技术并更具计算效率。理论和数值结果展示了TEC模型在高维张量分类问题中的良好性能。该模型预测是统计一致的,因为其风险被证明收敛于最优贝叶斯风险。此外,我们强调了TEC模型在计算成本和预测风险之间的权衡。该方法通过大量仿真和真实数据示例得到验证。我们准备了用于应用TEC的python包,可在我们的GitHub上获取。

关键词

引用

@article{arxiv.2103.00025,
  title  = {TEC: Tensor Ensemble Classifier for Big Data},
  author = {Peide Li and Rejaul Karim and Tapabrata Maiti},
  journal= {arXiv preprint arXiv:2103.00025},
  year   = {2021}
}