Can this Model Also Recognize Dogs?：从权重进行零样态模型搜索
机器学习
2025-02-14 v1 计算机视觉与模式识别
摘要
随着公开模型数量的不断增加，可能已有针对大多数用户所需任务的预训练、在线模型。然而，当前的模型搜索方法仍相当原始，本质上是基于文档中的文本搜索，用户无法找到相关模型。本文提出了 ProbeLog 方法，用于检索能够识别特定概念（如'狗'）的分类模型，而无需访问模型的元数据或训练数据。与以往的探针方法不同，ProbeLog 通过观察其对固定输入集（探针）的响应来为每个模型的每个输出维度（logit）计算描述符。我们的方法支持基于logit的检索（'find more logits like this'）和零样态、基于文本的检索（'find all logits corresponding to dogs'）。由于探针基于表示需要对模型进行多个代价高昂的前向传播，我们开发了一种基于协同过滤的方法，将编码存储库的成本降低3倍。我们展示了 ProbeLog 在实际场景和细粒度搜索任务中能够实现高检索准确率，并且能够扩展到完整规模的存储库。
引用
@article{arxiv.2502.09619,
title = {Can this Model Also Recognize Dogs? Zero-Shot Model Search from Weights},
author = {Jonathan Kahana and Or Nathan and Eliahu Horwitz and Yedid Hoshen},
journal= {arXiv preprint arXiv:2502.09619},
year = {2025}
}