探索MNIST-1D数据集上机器学习/深度学习架构的性能
机器学习
2026-02-17 v1 人工智能
计算与语言
摘要
小型数据集如MNIST历来是推动机器学习研究进步的重要工具，因其提供受控环境以进行快速实验和模型评估。然而，其简单性常使其难以在高级神经网络架构之间进行区分。为此，Greydanus等人提出MNIST-1D数据集，这是MNIST的一种一维适应版，旨在探索序列数据中的归纳偏置。该数据集保持小规模数据集的优势，同时引入变量和复杂性，成为研究高级架构的理想基准。本文扩展了对MNIST-1D的探索，通过评估残差网络（ResNet）、时间卷积网络（TCN）和稀疏卷积神经网络（DCNN）的性能。这些模型因其捕获序列模式和层次特征的能力而备受青睐，在先前测试的架构（如逻辑回归、多层感知机、卷积神经网络和GRU）之上进行了实现和基准测试。我们的实验结果表明，像TCN和DCNN这样的高级架构持续优于简单模型，在MNIST-1D上实现接近人类水平。ResNet也显示出显著改进，凸显在小型结构数据集中利用归纳偏置和层次特征提取的重要性。通过本研究，我们验证了MNIST-1D作为受计算约束环境下评估机器学习架构的稳健基准。我们的发现强调架构创新在改善模型性能方面的作用，并为在资源受限环境中优化深度学习模型提供了见解。
引用
@article{arxiv.2602.13348,
title = {Exploring the Performance of ML/DL Architectures on the MNIST-1D Dataset},
author = {Michael Beebe and GodsGift Uzor and Manasa Chepuri and Divya Sree Vemula and Angel Ayala},
journal= {arXiv preprint arXiv:2602.13348},
year = {2026}
}