长尾学习需要特征学习
机器学习
2023-01-02 v3
摘要
我们提出一个受文本或图像等自然数据启发的简单数据模型，并借此研究学习特征对于实现良好泛化的重要性。我们的数据模型遵循长尾分布，即某些稀有子类别在训练集中仅有少量样本。在此背景下，我们证明学习者成功当且仅当其识别出正确特征，并进一步推导出非渐近泛化误差界限，精确量化因未学习特征而必须付出的代价。
引用
@article{arxiv.2205.14553,
title = {Long-Tailed Learning Requires Feature Learning},
author = {Thomas Laurent and James H. von Brecht and Xavier Bresson},
journal= {arXiv preprint arXiv:2205.14553},
year = {2023}
}