中文

一种新型栈式自编码器:邻域样本包络嵌入的栈式自编码器集成模型

机器学习 2022-10-28 v1 人工智能

摘要

栈式自编码器作为一种代表性的深度网络,在特征学习方面具有独特且优异的性能,受到了研究者的广泛关注。然而,现有的深度栈式自编码器仅关注原始样本,未考虑样本间的层次结构信息。为解决这一局限,本文提出了一种新型栈式自编码器模型——邻域包络嵌入的栈式自编码器集成模型。首先,提出了邻域样本包络学习机制,用于对栈式自编码器的输入进行预处理。该机制通过组合邻近样本来构建样本对。此外,该机制通过多层迭代均值聚类构建多层样本空间,考虑了相似样本并生成了具有层次结构信息的包络样本层。其次,提出了一种嵌入式的栈式自编码器,并在每层样本空间中训练,以在训练过程和网络结构中考虑原始样本,从而更好地发现原始特征样本与深层特征样本之间的关系。第三,分别在包络样本的各层上进行特征降维和基分类器训练,并输出每层样本的分类结果。最后,通过集成机制融合各层包络样本空间的分类结果。在实验部分,所提算法在十余个代表性公开数据集上进行了验证。结果表明,我们的方法相比现有的传统特征学习方法及代表性深度自编码器,性能有显著提升。

关键词

引用

@article{arxiv.2210.14956,
  title  = {A new Stack Autoencoder: Neighbouring Sample Envelope Embedded Stack Autoencoder Ensemble Model},
  author = {Chuanyan Zhou and Jie Ma and Fan Li and Yongming Li and Pin Wang and Xiaoheng Zhang},
  journal= {arXiv preprint arXiv:2210.14956},
  year   = {2022}
}

备注

17 pages,6 figures