一种分析深层神经网络分布鲁棒性的新框架
机器学习
2026-05-21 v1
摘要
深层神经网络在各种任务上取得了显著的性能，但其对分布迁移的脆弱性仍是实际部署的主要障碍。本文提出一个框架，通过研究层权重与激活之间的相互作用来分析和量化神经网络的分布鲁棒性。我们使用伯努利分布建模这些相互作用，以类别间分离度作为鲁棒性诊断代理。我们通过在 CIFAR-10 和 ImageNet 上的模型展示了该框架的实用性。我们证明，提出的度量标准能够区分记忆训练数据且未达到泛化的网络与未记忆训练数据的网络。我们还对激活空间进行类似实验，发现相同性质在该空间并不成立。此外，我们检验了该度量标准在各种分布迁移下的行为，结果表明这些迁移会降低我们基于路径的诊断下的分离度。我们的实验结果表明，该框架为模型级的表示结构和鲁棒性诊断提供了有用的工具。
引用
@article{arxiv.2605.21313,
title = {A New Framework to Analyse the Distributional Robustness of Deep Neural Networks},
author = {Divij Khaitan and Subhashis Banerjee},
journal= {arXiv preprint arXiv:2605.21313},
year = {2026}
}
备注
9 pages, 6 figures, 3 tables