量化过拟合：通过零空间分析评估神经网络性能
机器学习
2023-06-01 v1 密码学与安全
计算机视觉与模式识别
摘要
过拟合/过训练的机器学习模型更容易遭受知识泄露，这对隐私构成风险。假设我们从第三方合作者处下载或接收了一个模型，却不知其训练准确率。我们如何判断它是否在其训练数据上过拟合或过训练？模型可能是被有意过训练以使其在测试时易受攻击。虽然过拟合或过训练的模型可能在测试数据甚至某些泛化测试上表现良好，但我们无法确信其未过拟合。进行全面泛化测试同样代价高昂。本文旨在解决这些问题，并仅使用测试数据来确保我们方法的隐私与泛化性。为此，我们分析神经网络最后一层的零空间，使我们能够在无需访问训练数据或知晓这些数据准确率的情况下量化过拟合。我们在多种架构与数据集上评估了我们的方法，并观察到模型过拟合时零空间角度存在明显模式。此外，我们表明泛化能力差的模型在该空间中表现出特定特征。我们的工作代表了在无需访问训练数据或知晓任何训练样本知识的情况下量化过拟合的首次尝试。
引用
@article{arxiv.2305.19424,
title = {Quantifying Overfitting: Evaluating Neural Network Performance through Analysis of Null Space},
author = {Hossein Rezaei and Mohammad Sabokrou},
journal= {arXiv preprint arXiv:2305.19424},
year = {2023}
}