QBERT：用于处理问题的通用模型
计算与语言
2022-12-06 v1 人工智能
信息检索
机器学习
摘要
在各种任务中使用单一模型对于深度神经序列模型的训练与应用均有益处。我们致力于开发可用于执行一系列不同任务而非专用于单一应用的文本通用表示。我们聚焦于处理短问题，并为这些问题开发一种在诸如问题主题分类、等价问题识别和问答等多样化问题上均有用的嵌入。本文介绍了QBERT，一种用于处理问题的通用模型。借助QBERT，我们展示了如何训练一个执行所有问题相关任务的多任务网络，并取得了与其对应单任务模型相近的性能。
引用
@article{arxiv.2212.01967,
title = {QBERT: Generalist Model for Processing Questions},
author = {Zhaozhen Xu and Nello Cristianini},
journal= {arXiv preprint arXiv:2212.01967},
year = {2022}
}