多语言政党宣言分类：跨国家、时间与文类的域迁移
计算与语言
2023-08-01 v1 计算机与社会
机器学习
机器学习
摘要
大型语料的标注成本仍是实证社会科学研究的主要瓶颈之一。一方面，利用域迁移的能力可重用已标注数据集与训练好的模型；另一方面，域迁移的效果如何、以及跨不同维度迁移结果的可靠性尚不清楚。我们在一个大型政治宣言数据库中探索了跨地理位置、语言、时间与文类的域迁移潜力。首先，我们展示了微调 transformer 模型强大的域内分类性能。其次，我们针对上述维度改变测试集的文类，以检验微调模型的鲁棒性与可迁移性。对于文类切换，我们使用来自新西兰政治人物的转录演讲外部语料库；对于其他三个维度，则使用宣言数据库的自定义划分。尽管 BERT 在初始跨模态实验中取得最佳分数，DistilBERT 以更低计算开销展现出竞争力，因此被用于跨时间与跨国家的进一步实验。附加分析的结果表明，（Distil）BERT 可应用于未来数据且性能相近。此外，我们观察到不同来源国家的政治宣言之间存在（部分）显著差异，即便这些国家共享一种语言或文化背景。
引用
@article{arxiv.2307.16511,
title = {Classifying multilingual party manifestos: Domain transfer across country, time, and genre},
author = {Matthias Aßenmacher and Nadja Sauter and Christian Heumann},
journal= {arXiv preprint arXiv:2307.16511},
year = {2023}
}