并行多路径前馈神经网络（PMFFNN）用于长列式数据集：一种复杂度降低的新方法
机器学习
2024-11-12 v1
摘要
传统前馈神经网络（FFNN）和一维卷积神经网络（1D CNN）在处理包含众多特征的长列式数据集时经常遇到困难。这一挑战源于两个主要因素：数据量庞大以及特征之间可能缺乏有意义的关系。在传统训练中，大规模数据集可能使模型不堪重负，导致输入的相当部分未被充分利用。因此，模型可能无法捕获有效学习所需的关键信息，从而导致性能下降。为克服这些限制，我们引入了一种名为并行多路径前馈神经网络（PMFFNN）的新架构。我们的方法利用多条并行路径来处理输入数据集的不同列子集。通过这样做，该架构确保每个特征子集都能获得集中关注，这在传统模型中常被忽视。这种方法最大化了特征多样性的利用率，确保训练过程中不会遗漏任何关键数据部分。我们的架构有两个关键优势。第一，它通过将学习任务分布到并行路径上，更有效地处理长列式数据。第二，它通过缩小每条路径的特征范围来降低模型复杂度，从而实现更快的训练时间和更高的资源效率。实证结果表明，PMFFNN优于传统FFNN和1D CNN，为管理大规模数据提供了解决方案。
引用
@article{arxiv.2411.06020,
title = {Parallel Multi-path Feed Forward Neural Networks (PMFFNN) for Long Columnar Datasets: A Novel Approach to Complexity Reduction},
author = {Ayoub Jadouli and Chaker El Amrani},
journal= {arXiv preprint arXiv:2411.06020},
year = {2024}
}