并非所有预训练方法都一样：在低资源场景下针对不平衡极化任务进行阈值调谐和类别加权
计算与语言
2026-03-26 v1 机器学习
摘要
本文描述了我对 SemEval-2025 Polarization Shared Task 提交的方案，该任务处理社交媒体文本中的极化检测和分类。我开发了针对英语和斯瓦希里语的 Transformer-based 系统，涵盖三个子任务：二进制极化检测、多标签目标类型分类和多标签表现形式识别。该方法利用多语言和非洲语言专用模型（mDeBERTa-v3-base、SwahBERT、AfriBERTa-large），类别加权损失函数，分层数据划分，以及 per-label 阈值调谐来处理严重的类别不平衡。最佳配置 mDeBERTa-v3-base 在二进制检测验证集上实现 0.8032 的宏 F1 分数，在多标签任务上达到最高 0.556 的宏 F1 分数。错误分析揭示了对隐式极化、代码切换以及区分烈性政治话语与真正极化方面的持续挑战。
引用
@article{arxiv.2603.23534,
title = {Not All Pretraining are Created Equal: Threshold Tuning and Class Weighting for Imbalanced Polarization Tasks in Low-Resource Settings},
author = {Abass Oguntade},
journal= {arXiv preprint arXiv:2603.23534},
year = {2026}
}