基于像素序列的图像分类
图像与视频处理
2022-09-26 v1 机器学习
摘要
本研究比较了基于循环神经网络的序列图像分类方法。我们描述了基于循环神经网络的方法,如长短期记忆(LSTM)、双向长短期记忆(BiLSTM)架构等。我们也回顾了最先进的序列图像分类架构。我们在研究中主要关注 LSTM、BiLSTM、时间卷积网络和独立循环神经网络架构。众所周知,RNN 难以学习输入序列中的长期依赖。我们使用一种基于正交 Ramanujan 周期变换对输入序列进行简单特征构造的方法。实验表明,若将这些特征输入 LSTM 或 BiLSTM 网络,性能会大幅提升。我们本研究的重点是同时提高 LSTM 和 BiLSTM 架构的训练准确率并减少训练时间,而非推进最先进结果,因此我们使用简单的 LSTM/BiLSTM 架构。我们将序列输入与所构造特征作为单层 LSTM 和 BiLSTM 网络输入在 MNIST 和 CIFAR 数据集上进行比较。我们观察到,将序列输入到具有 128 个隐藏单元的 LSTM 网络训练五个 epoch 得到 33% 的训练准确率,而将构造特征作为同一 LSTM 网络输入则以少 1/3 的时间得到 90% 的训练准确率。
引用
@article{arxiv.2209.11495,
title = {Image Classification using Sequence of Pixels},
author = {Gajraj Kuldeep},
journal= {arXiv preprint arXiv:2209.11495},
year = {2022}
}