基于 Transformer 的模型利用无标签数据进行德语客户反馈相关性与极性分类的域适应
计算与语言
2023-03-09 v2 机器学习
摘要
理解客户反馈正成为企业识别问题并改进其产品与服务的必要工作。文本分类与情感分析可通过多种机器和深度学习方法在分析此类数据中发挥重要作用。本工作中，利用不同的基于 Transformer 的模型来探究这些模型在处理德语客户反馈数据集时的效率。此外，进一步分析这些预训练模型，以确定使用无标签数据使其适应特定域是否能比开箱即用的预训练模型取得更好结果。为评估模型，考虑了 GermEval 2017 的两个下游任务。实验结果表明，基于 Transformer 的模型相比 fastText 基线可取得显著改进，并超越已发表分数及先前模型。对于相关性分类子任务，最佳模型在第一个测试集上取得微平均 -Score 96.1%，第二个测试集上 95.9%；极性分类子任务上分数分别为 85.1% 和 85.3%。
引用
@article{arxiv.2212.05764,
title = {Domain Adaptation of Transformer-Based Models using Unlabeled Data for Relevance and Polarity Classification of German Customer Feedback},
author = {Ahmad Idrissi-Yaghir and Henning Schäfer and Nadja Bauer and Christoph M. Friedrich},
journal= {arXiv preprint arXiv:2212.05764},
year = {2023}
}
备注
Complete