基于多数投票与元学习结合的深度神经网络集成评估
机器学习
2021-05-11 v1
摘要
深度神经网络（DNNs）易于过拟合，因而具有高方差。过拟合的网络对新数据实例表现不佳。因此，我们不使用单一 DNN 作为分类器，而是提出由七个独立 DNN 学习器组成的集成，仅改变这些 DNN 的输入而保持其架构与内在属性相同。为在训练输入中引入多样性，对七个 DNN 中的每一个，删除七分之一的数据，并通过剩余样本的 bootstrap 采样予以补充。我们提出了一种新颖的技术来结合集成中 DNN 学习器的预测。我们的方法称为基于多数投票的预筛选结合堆叠元学习器，其在分配最终类标签前对预测执行两步置信度检查。本文所有算法均在五个基准数据集上测试，即人类活动识别（HAR）、气体传感器阵列漂移、Isolet、Spambase 和互联网广告。我们的集成方法比单一 DNN、集成中 DNN 的平均个体准确率以及多数投票与元学习的基线方法取得了更高的准确率。
引用
@article{arxiv.2105.03819,
title = {Evaluating Deep Neural Network Ensembles by Majority Voting cum Meta-Learning scheme},
author = {Anmol Jain and Aishwary Kumar and Seba Susan},
journal= {arXiv preprint arXiv:2105.03819},
year = {2021}
}
备注
Included in Proceedings of 3rd ICSCSP 2020