深度模型合并：神经网络可解释性的姐妹——综述
机器学习
2025-03-25 v2 人工智能
摘要
我们通过损失景观几何的视角调查了模型合并文献，将来自经验模型合并研究与损失景观分析的观察与主导神经网络训练及其内部表征出现的现象联系起来。我们提炼了这些领域中反复出现的经验观察，概括为损失景观四大特征：模式凸性、确定性、可导性和连通性。我们认为，模型合并从 Learned 表示中获得的洞见可应用于模型可解释性和鲁棒性，随后我们提出了这些领域交叉点的有前景的新研究方向。
引用
@article{arxiv.2410.12927,
title = {Deep Model Merging: The Sister of Neural Network Interpretability -- A Survey},
author = {Arham Khan and Todd Nief and Nathaniel Hudson and Mansi Sakarvadia and Daniel Grzenda and Aswathy Ajith and Jordan Pettyjohn and Kyle Chard and Ian Foster},
journal= {arXiv preprint arXiv:2410.12927},
year = {2025}
}