中文

DoDo Learning:用于检测针对公众人物 abuse 的语言模型中的领域-人口统计迁移

计算与语言 2024-04-26 v3 计算机与社会

摘要

公众人物在社交媒体上受到不成比例的 abuse,影响其参与公共生活的活跃度。自动化系统可大规模识别 abuse,但标注训练数据昂贵、复杂且可能有害。因此,期望系统高效且可泛化,能处理网络 abuse 的共性与特定方面。我们探究跨群体文本分类的动态,以理解在一个领域或人口统计上训练的分类器迁移到其他群体的效果,旨在构建更具泛化性的 abuse 分类器。我们使用新颖的 DODO 数据集(含 28,000 条标注条目,在四个领域-人口统计配对间均等划分)微调语言模型,对针对公众人物的推文按领域(体育与政治)和人口统计(女性与男性)进行分类。我们发现:(i) 少量多样化数据对泛化与模型适配极为有益;(ii) 模型跨人口统计更易迁移,但跨领域训练的模型更具泛化性;(iii) 某些群体比其他群体更有助于泛化性;(iv) 数据集相似性是可迁移性的信号。

关键词

引用

@article{arxiv.2307.16811,
  title  = {DoDo Learning: DOmain-DemOgraphic Transfer in Language Models for Detecting Abuse Targeted at Public Figures},
  author = {Angus R. Williams and Hannah Rose Kirk and Liam Burke and Yi-Ling Chung and Ivan Debono and Pica Johansson and Francesca Stevens and Jonathan Bright and Scott A. Hale},
  journal= {arXiv preprint arXiv:2307.16811},
  year   = {2024}
}

备注

15 pages, 7 figures, 4 tables