MGE：一种无需训练且高效的模型生成与增强方案
计算机视觉与模式识别
2024-02-28 v1
摘要
为深度学习模型的研究提供基础，构建模型池是必不可少的步骤。本文提出了一种无需训练且高效的模型生成与增强方案 (MGE)。该方案在模型生成过程中主要考虑两个方面：模型参数的分布和模型性能。实验结果表明，生成的模型与通过正常训练获得的模型相当，甚至在某些情况下更优。此外，生成模型所消耗的时间仅占正常模型训练所需时间的 1%。更重要的是，随着 Evolution-MGE 的增强，生成的模型在 few-shot（少样本）任务中表现出具有竞争力的泛化能力。而且，生成模型的行为差异性具有对抗防御的潜力。
引用
@article{arxiv.2402.17486,
title = {MGE: A Training-Free and Efficient Model Generation and Enhancement Scheme},
author = {Xuan Wang and Zeshan Pang and Yuliang Lu and Xuehu Yan},
journal= {arXiv preprint arXiv:2402.17486},
year = {2024}
}