基于情感预训练的少样本跨语言立场检测
计算与语言
2021-12-22 v2 机器学习
摘要
立场检测的目标是判定文本中针对某一目标所表达的观点。这些观点或语境常因用户与平台（可能是地方新闻机构、社交媒体平台、新闻论坛等）而以多种语言表达。然而，多数立场检测研究局限于单一语言与少数有限目标，跨语言立场检测的工作甚少。此外，非英语标注数据往往稀缺并带来额外挑战。近来，大型多语言语言模型显著提升了诸多非英语任务的表现，尤其在少样本情形下。这凸显了模型预训练及其从少量样本学习的重要性。本文给出了迄今最全面的跨语言立场检测研究：我们在来自 6 个语系的 12 种语言、15 个多样数据集上实验，每种各有 6 种低资源评测设定。实验中我们基于模式利用训练（pattern-exploiting training），提出新增一种新颖标签编码器以简化口语化（verbalisation）过程。我们进一步提出基于情感生成立场数据用于预训练，相较多个强基线在低样本设定下取得超过 6% 绝对 F1 的显著提升。
引用
@article{arxiv.2109.06050,
title = {Few-Shot Cross-Lingual Stance Detection with Sentiment-Based Pre-Training},
author = {Momchil Hardalov and Arnav Arora and Preslav Nakov and Isabelle Augenstein},
journal= {arXiv preprint arXiv:2109.06050},
year = {2021}
}
备注
Accepted to AAAI 2022 (Preprint version)