基于 BERT 的主动学习在多类文本分类中的应用
信息检索
2021-09-21 v2 机器学习
摘要
文本分类在取送服务行业中有着有趣的应用，客户需要将一件或多件物品从某地点取走并送达特定目的地。将这些客户交易分类到多个类别中有助于理解不同客户细分市场的需求。每笔交易都附有客户提供的文本描述，用于说明取送的产品，可用于对交易进行分类。基于 BERT 的模型已被证明在自然语言理解中表现良好。然而，客户提供的产品描述往往是简短、不连贯且语码混合（印地语-英语）的文本，这需要使用人工标注数据对此类模型进行微调以达到高准确率。收集这些标注数据可能成本高昂。在本文中，我们探索主动学习策略，在使用 BERT 训练交易分类模型的同时以经济高效的方式标注交易描述。在 TREC-6、AG's News Corpus 和一个内部数据集上，我们对 BERT 在不同主动学习策略下的多类文本分类性能进行了基准测试。
引用
@article{arxiv.2104.14289,
title = {Multi-class Text Classification using BERT-based Active Learning},
author = {Sumanth Prabhu and Moosa Mohamed and Hemant Misra},
journal= {arXiv preprint arXiv:2104.14289},
year = {2021}
}