深度序列分类器能否实现非平凡泛化？
机器学习
2022-11-14 v2
摘要
深度学习模型在序列分类方面的最新进展极大提升了其分类准确率，尤其是在有大型训练集可用时。然而，若干工作指出，在某些设定下这些模型的预测校准很差。本文研究二元序列分类问题，并从不同角度考察模型校准，提出如下问题：深度学习模型能否学习潜在的目标准类分布？我们聚焦于稀疏序列分类，即目标类罕见的问题，并比较三种深度学习序列分类模型。我们设计了一种评估方法，衡量分类器学习目标准类分布的程度。此外，我们的评估将仅靠训练序列压缩获得的良好表现与通过恰当模型泛化获得的良好表现分离开来。结果表明，在此二元设定下，深度学习模型确实能够以非平凡方式学习潜在的类分布，即通过超越数据压缩的恰当泛化。
引用
@article{arxiv.2210.13082,
title = {Are Deep Sequence Classifiers Good at Non-Trivial Generalization?},
author = {Francesco Cazzaro and Ariadna Quattoni and Xavier Carreras},
journal= {arXiv preprint arXiv:2210.13082},
year = {2022}
}