最小充分视图：基于更多证据进行预测的 DNN 模型具有更高准确率
机器学习
2025-05-30 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
深度神经网络（DNN）在图像识别中表现出高性能；然而，其强大泛化能力的原因仍不清楚。一个合理的假设是，DNN 通过从图像中识别出多条证据来实现鲁棒且准确的预测。因此，为了验证这一假设，本研究提出了最小充分视图（MSV）。MSV 被定义为输入图像中足以保留 DNN 预测结果的最小区域集合，从而代表了 DNN 发现的证据。我们通过实验证明了 MSV 的数量（即证据的数量）与 DNN 模型泛化性能之间存在强相关性。值得注意的是，这种相关性不仅在单个 DNN 内部成立，而且在不同的 DNN（包括卷积模型和 Transformer 模型）之间也成立。这表明，基于更多证据进行预测的 DNN 模型具有更高的泛化性能。我们提出了一种基于 MSV 的 DNN 模型选择度量，该度量不需要标签信息。因此，我们通过实验证明，所提出的度量对过拟合程度的依赖性较小，使其成为比现有度量（如平均置信度）更可靠的模型性能指标。
引用
@article{arxiv.2402.01095,
title = {Minimal Sufficient Views: A DNN model making predictions with more evidence has higher accuracy},
author = {Keisuke Kawano and Takuro Kutsuna and Keisuke Sano},
journal= {arXiv preprint arXiv:2402.01095},
year = {2025}
}
备注
24 pages