量化过拟合：引入过拟合指数
机器学习
2023-08-21 v1 人工智能
计算机视觉与模式识别
摘要
在快速发展的机器学习领域中，确保模型泛化能力仍是一项根本性挑战。过拟合，即模型在训练数据上表现优异但在未见数据上表现不佳，是一个反复出现的问题。本文引入过拟合指数（OI），一种旨在定量评估模型过拟合倾向的新指标。通过在乳腺超声图像数据集（BUS）和 MNIST 数据集上使用 MobileNet、U-Net、ResNet、Darknet 和 ViT-32 等架构进行大量实验，我们说明了 OI 的效用与辨别力。我们的结果强调了不同架构间过拟合行为的差异性，并凸显了数据增强的缓解作用，尤其对较小且更专业的数据集。ViT-32 在 MNIST 上的表现进一步强调了某些模型的鲁棒性及该数据集的完备性。通过提供衡量过拟合的客观视角，OI 为推进模型优化并确保实际效能提供了一条有前景的途径。
引用
@article{arxiv.2308.08682,
title = {Quantifying Overfitting: Introducing the Overfitting Index},
author = {Sanad Aburass},
journal= {arXiv preprint arXiv:2308.08682},
year = {2023}
}