中文

树形多级主成分分析(TMPCA):理论与应用

计算与语言 2018-10-12 v2

摘要

本文提出一种基于 PCA 的序列到向量(seq2vec)降维方法,称为树形多级主成分分析(TMPCA),用于文本分类问题。我们给出了 TMPCA 的理论分析与适用性证明,作为先前工作(Su, Huang & Kuo)的扩展。与传统的词到向量嵌入方法不同,TMPCA 方法在序列层面进行降维,且无需带标签的训练数据。此外,它能保留输入序列的序列结构。我们证明 TMPCA 计算高效,并能通过在数学上保持输入输出间的强互信息来促进基于序列的文本分类任务。实验结果也表明,在 TMPCA 预处理数据上训练的稠密(全连接)网络取得了优于最先进的 fastText 及其他基于神经网络的方案的性能。

关键词

引用

@article{arxiv.1807.08228,
  title  = {Tree-structured multi-stage principal component analysis (TMPCA): theory and applications},
  author = {Yuanhang Su and Ruiyuan Lin and C. -C. Jay Kuo},
  journal= {arXiv preprint arXiv:1807.08228},
  year   = {2018}
}