阿拉伯方面情感分析的领域自适应预训练：领域适应与微调策略的比较研究

方面情感分析 (ABSA) 是自然语言处理中的一个技术，使组织能够理解客户对特定产品方面的意见。虽然深度学习模型在英语 ABSA 中广泛应用，但在阿拉伯语领域应用有限，由于缺乏标记数据。研究人员尝试通过使用基于预训练的上下文化语言模型（如 BERT）来解决此问题。然而，这些模型通常基于事实数据，可能在诸如 ABSA 之类的特定领域任务中引入偏见。据我们所知，尚无研究将自适应预训练应用于阿拉伯语上下文化模型进行 ABSA。本研究提出了一种新方法，为方面情感分类 (ASC) 和意见目标表达 (OTE) 提取采用领域自适应预训练。我们检验了特征提取、完全微调和基于适配器的方法，以增强性能和效率，利用多个适应语料库和上下文化模型。我们的结果表明，领域内自适应预训练可获得有限的改进。基于适配器的微调是一种计算效率高的方法，可实现竞争性的结果。然而，错误分析揭示了模型预测和数据集标记方面的问题。在 ASC 中，常见问题包括情感标记错误、对对比标记的误解释、早期术语的正面偏见，以及处理冲突意见和子词标记的困难。对于 OTE，问题包括目标标记错误、语法角色混淆、难以处理多词表达式以及依赖浅层启发式方法。这些发现凸显了需要语法和语义感知模型（如图卷积网络）来更有效地捕获长距离关系和复杂方面情感对齐的必要性。