基于单隐层前馈神经网络的序列三支决策
机器学习
2023-03-15 v1
摘要
三支决策策略已被用于构建单隐层前馈神经网络（SFNN）的网络拓扑。然而，该模型性能一般，且由于具有固定阈值参数而未考虑过程代价。受序列三支决策（STWD）启发，本文提出一种结合 SFNN 的 STWD（STWD-SFNN），以提升网络在结构化数据集上的性能。STWD-SFNN 采用多粒度层级，从粗到细动态学习隐层节点数量，并设置序列阈值参数。具体而言，在粗粒度层级，STWD-SFNN 通过严格阈值条件处理易分类样本；随着细粒度层级隐层节点数增加，STWD-SFNN 通过宽松阈值条件更专注于处理难分类样本，从而实现样本分类。此外，STWD-SFNN 考虑并报告了各粒度层级产生的过程代价。实验结果验证，在结构化数据集上 STWD-SFNN 比其他 SFNN 模型具有更紧凑的网络，且比竞争模型具有更好的泛化性能。所有模型和数据集可从 https://github.com/wuc567/Machine-learning/tree/main/STWD-SFNN 下载。
引用
@article{arxiv.2303.07589,
title = {Sequential three-way decisions with a single hidden layer feedforward neural network},
author = {Youxi Wu and Shuhui Cheng and Yan Li and Rongjie Lv and Fan Min},
journal= {arXiv preprint arXiv:2303.07589},
year = {2023}
}