StitchNet：从预训练片段组合神经网络
机器学习
2023-09-26 v3 人工智能
计算机视觉与模式识别
摘要
我们提出 StitchNet，一种新颖的神经网络构建范式，它将多个预训练神经网络中的片段（一个或多个连续网络层）拼接在一起。StitchNet 无需传统通过反向传播训练进行模型构建过程所需的大量计算与数据需求，即可创建高性能神经网络。我们利用中心核对齐（Centered Kernel Alignment, CKA）作为兼容性度量，高效指导在为给定任务组合网络时这些片段的选择，以适配特定的精度需求与计算资源约束。随后我们表明，这些片段可被拼接以创建精度可与传统训练网络相媲美的神经网络，而计算资源与数据需求仅为后者的一小部分。最后，我们探索了这一新范式所赋能的新颖的即时个性化模型构建与推理应用。代码可在 https://github.com/steerapi/stitchnet 获取。
引用
@article{arxiv.2301.01947,
title = {StitchNet: Composing Neural Networks from Pre-Trained Fragments},
author = {Surat Teerapittayanon and Marcus Comiter and Brad McDanel and H. T. Kung},
journal= {arXiv preprint arXiv:2301.01947},
year = {2023}
}