一箭四鸟：基于监督对比学习的 QA 系统综合解决方案
计算与语言
2024-10-28 v2 人工智能
机器学习
摘要
本文提出了一种新型且综合的方法，通过监督对比学习（SCL）来增强问答系统（QA system）的鲁棒性和效率。通过预训练语言模型，训练高性能QA系统变得简单，仅需少量数据和简单的微调。然而，尽管近期的进展，现有的QA系统在功能和训练效率方面仍存在显著不足。我们通过定义四个关键任务来解决功能问题：用户输入意图分类、越域输入检测、新意图发现和持续学习。随后，我们利用统一的基于SCL的表示学习方法，高效构建紧凑且类别间分散的特征空间，从而促进已知意图分类以及未知意图检测和发现。因此，仅需对下游任务进行最小的额外调优，我们的方法显著提高了模型效率，并在所有任务上实现了新的状态最佳性能（SOTA）。
引用
@article{arxiv.2407.09011,
title = {One Stone, Four Birds: A Comprehensive Solution for QA System Using Supervised Contrastive Learning},
author = {Bo Wang and Tsunenori Mine},
journal= {arXiv preprint arXiv:2407.09011},
year = {2024}
}
备注
16 pages, updated to the accepted version