深度学习图像分类中基于置信度的集成方法评估
计算机视觉与模式识别
2023-03-07 v1 人工智能
机器学习
摘要
集成是一种提升机器学习（ML）模型性能的成熟技术。Conf-Ensemble 是对 Boosting 的改进，其基于模型置信度而非模型误差来构建集成，以更好地对困难边缘样本进行分类。其核心思想是：为前序模型难以处理（不一定分类错误）的样本依次构建模型专家。该技术已在约 80 个特征的小特征空间二分类中展现出优于 boosting 的结果。本文中，我们在更复杂的图像分类任务上评估 Conf-Ensemble 方法，使用 ImageNet 数据集（224x224x3 特征，1000 类）。图像分类是基于 AI 的感知的重要基准，因此有助于评估该方法能否用于使用 ML 集成的安全关键应用。我们的实验表明，在复杂的多标签分类任务中，在小型样本集上实现对复杂输入样本专门化的预期收益无法达到，即一个好的分类器似乎依赖于非常复杂的特征分析，而无法仅在有限的“困难样本”子集上得到良好训练。我们提出了对 Conf-Ensemble 的改进以增加馈送给后续集成成员的样本数量，采用该改进的三成员 Conf-Ensemble 在准确率上能够超越单一模型，尽管提升幅度不显著。我们的发现揭示了该方法的局限性以及利用大数据的非平凡性。
引用
@article{arxiv.2303.03185,
title = {Evaluation of Confidence-based Ensembling in Deep Learning Image Classification},
author = {Rafael Rosales and Peter Popov and Michael Paulitsch},
journal= {arXiv preprint arXiv:2303.03185},
year = {2023}
}