Scifaro

中文

Zero-shot 在视觉分类中跨架构的泛化

计算机视觉与模式识别 2024-05-06 v4 人工智能机器学习

作者: Evan Gerritz , Luciano Dyballa , Steven W. Zucker

在 arXiv 上查看 ↗ PDF ↗

摘要

对未见数据进行泛化是深度网络的关键需求，但其与分类准确率的关系尚不明了。我们使用极简视觉数据集和一种泛化性度量，展示了从深度卷积神经网络（CNN）到变换器等流行网络，在不同层次和不同架构之间，其对未见类别的外推能力存在差异。准确率并非泛化性的良好预测器，泛化性随层深度呈非单调变化。

关键词

零样本学习视觉分类深度神经网络泛化卷积神经网络变换器准确率层深度

引用

@article{arxiv.2402.14095,
  title  = {Zero-shot generalization across architectures for visual classification},
  author = {Evan Gerritz and Luciano Dyballa and Steven W. Zucker},
  journal= {arXiv preprint arXiv:2402.14095},
  year   = {2024}
}

备注

Accepted as a Tiny Paper at ICLR 2024. Code available at https://github.com/dyballa/generalization/tree/ICLR2024TinyPaper