神经网络模型的相似性:功能与表示度量综述
机器学习
2025-05-22 v4
摘要
测量神经网络的相似性以理解和改进其行为已成为一个极其重要且备受研究关注的问题。在本综述中,我们全面概述了测量神经网络相似性的两种互补视角:(i) 表示相似性,考虑中间层激活的差异;(ii) 功能性相似性,考虑模型在输出上的差异。除了对现有度量方法进行详细描述外,我们总结并讨论了这些度量的性质及其相互关系,并指出开放的研究问题。我们希望我们的工作为更系统地研究神经网络模型相似性度量的性质与适用性奠定基础。
引用
@article{arxiv.2305.06329,
title = {Similarity of Neural Network Models: A Survey of Functional and Representational Measures},
author = {Max Klabunde and Tobias Schumacher and Markus Strohmaier and Florian Lemmerich},
journal= {arXiv preprint arXiv:2305.06329},
year = {2025}
}
备注
ACM Computing Surveys