基于特征向量中心性剪枝的有效微调
机器学习
2025-12-16 v1
摘要
在社交媒体网络中,一小部分高影响力用户足以驱动跨多个社区的大规模话语变化。这些用户行为的微小偏移往往足以在网络中广泛传播。类似的现象也发生在神经网络微调过程中。传统的卷积神经网络微调通常在大规模预训练模型之上添加新的线性分类层。我们认为,通过首先剪枝网络以仅保留最重要的神经元,然后再进行微调,可以实现更好的适配。我们提出了一种基于图论的神经网络剪枝方法,旨在提升微调性能。在此方法中,每个神经元表示为一个节点,边编码神经元之间的相似性。神经元根据使用特征向量中心性计算的重要性分数进行剪枝。所得剪枝网络随后仅使用最核心的神经元进行微调。我们在 VGGNet、EfficientNet 和 ResNet 模型上评估了所提方法,使用 TF Flowers、Caltech one zero one 和 Oxford Flowers one zero two 数据集。所提方法在显著降低模型复杂度的同时取得了更高的分类准确率。在 Oxford Flowers one zero two 数据集上,该方法实现了 48% 的分类准确率,而基线 VGGNet 模型仅为 30%。
引用
@article{arxiv.2512.12543,
title = {Effective Fine-Tuning with Eigenvector Centrality Based Pruning},
author = {Shaif Chowdhury and Soham Biren Katlariwala and Devleena Kashyap},
journal= {arXiv preprint arXiv:2512.12543},
year = {2025}
}
备注
12 pages