通过跨度抽取统一问答、文本分类与回归
计算与语言
2019-09-24 v2
摘要
尽管诸如 BERT 之类的预训练语言编码器已在许多任务间共享，问答、文本分类和回归模型的输出层却显著不同。跨度解码器常用于问答，固定类别的分类层用于文本分类，相似度打分层用于回归任务。我们表明这种区分是不必要的，并且三者均可统一为跨度抽取。统一的跨度抽取方法在多个问答、文本分类和回归基准上的补充监督预训练、低数据量和多任务学习实验中取得了更优或相当的性能。
引用
@article{arxiv.1904.09286,
title = {Unifying Question Answering, Text Classification, and Regression via Span Extraction},
author = {Nitish Shirish Keskar and Bryan McCann and Caiming Xiong and Richard Socher},
journal= {arXiv preprint arXiv:1904.09286},
year = {2019}
}
备注
updating paper to also include regression tasks