使用环形扩张卷积神经网络对长序列数据进行分类
机器学习
2022-05-30 v2
摘要
长序列数据分类是一项重要的机器学习任务,并出现在许多应用场景中。循环神经网络、Transformers 与卷积神经网络是从序列数据学习的三种主要技术。在这些方法中,可扩展至极长序列的时间卷积网络(TCNs)已在时间序列回归中取得显著进展。然而,TCNs 在序列分类上的表现不尽如人意,因为它们使用偏斜连接协议并在最后位置输出类别。这种不对称性限制了它们依赖于整个序列的分类性能。本工作中,我们提出一种称为环形扩张卷积神经网络(CDIL-CNN)的对称多尺度架构,其中每个位置都有同等机会从上一层其他位置接收信息。我们的模型在所有位置给出分类 logits,并可应用简单集成学习以获得更好决策。我们在多种长序列数据集上测试了 CDIL-CNN。实验结果表明,我们的方法优于许多最先进的方法。
引用
@article{arxiv.2201.02143,
title = {Classification of Long Sequential Data using Circular Dilated Convolutional Neural Networks},
author = {Lei Cheng and Ruslan Khalitov and Tong Yu and Zhirong Yang},
journal= {arXiv preprint arXiv:2201.02143},
year = {2022}
}