超越准确率：自监督学习表征评估的统计度量与基准
计算机视觉与模式识别
2023-12-05 v1
摘要
最近，自监督度量学习因有望学习通用距离函数而引起了关注。它克服了传统有监督学习的局限性，例如可扩展性和标签偏差。尽管该领域取得了进展，但当前的基准测试包含的类别范围狭窄，阻碍了对语义表示的细致评估。为了弥补这一差距，我们引入了一个具有类别多样性和粒度的大规模基准测试，即基于ImageNet-21K和WordNet构建的统计度量学习基准（SMLB）。SMLB旨在严格评估超过1400万张图像、2万个类别和1.6万个分类节点上的判别辨别力和泛化能力。此外，我们提出了新的评估指标——用于可分性的“overlap”和用于一致性的“aSTD”——以测量距离统计信息，这些指标对类别数量的变化高效且稳健。我们的基准测试提供了超越准确率评估表征质量的新视角。我们的发现揭示了监督学习的局限性和SSL模型中固有的类别偏差，为未来模型增强的潜在领域提供了见解。
引用
@article{arxiv.2312.01118,
title = {Beyond Accuracy: Statistical Measures and Benchmark for Evaluation of Representation from Self-Supervised Learning},
author = {Jiantao Wu and Shentong Mo and Sara Atito and Josef Kittler and Zhenhua Feng and Muhammad Awais},
journal= {arXiv preprint arXiv:2312.01118},
year = {2023}
}