neuralRank:基于ANN的模型仓库搜索与排序
机器学习
2019-03-06 v1 机器学习
摘要
深度学习的广泛应用导致了大量用于常见任务的预训练神经网络模型。此类模型通常通过迁移学习从其他模型适配而来。这些模型可能具有不同的训练集、训练算法、网络架构与超参数。对于给定的应用,模型仓库中最合适的模型是什么?这是实际部署中的一个关键问题,但却未受到太多关注。本文引入了基于相对于目标数据集的适用性来搜索与排序模型这一新问题,并提出了一种称为neuralRank的排序算法。该算法背后的关键思想是使用一种新颖的度量来基于模型的判别能力确定模型适用性。通过在MNIST、Fashion和CIFAR10数据集上的实验结果,我们证明(1)neuralRank独立于领域、训练集或网络架构,(2)被neuralRank排高分的模型在实践中往往具有更高的模型精度。
引用
@article{arxiv.1903.00711,
title = {neuralRank: Searching and ranking ANN-based model repositories},
author = {Nirmit Desai and Linsong Chu and Raghu K. Ganti and Sebastian Stein and Mudhakar Srivatsa},
journal= {arXiv preprint arXiv:1903.00711},
year = {2019}
}