社交媒体中社会语用意义的对比学习
计算与语言
2023-05-26 v5 人工智能
摘要
NLP 中表征学习与对比学习的最新进展尚未广泛考虑社会语用意义(即不同语言社群内部交互中的意义)这一类。为弥补这一差距,我们提出了一种新颖的框架,用于学习任务无关的表征,可迁移至广泛的社会语用任务(例如情感、仇恨言论、幽默、讽刺)。我们的框架在域内与域外数据上,以及在通用与少样本设定下,均优于其他对比学习框架。例如,与两个流行的预训练语言模型相比,当每个数据集仅用 个训练样本微调时,我们的方法在 个数据集上平均 提升了 。我们的代码见:https://github.com/UBC-NLP/infodcl
引用
@article{arxiv.2203.07648,
title = {Contrastive Learning of Sociopragmatic Meaning in Social Media},
author = {Chiyu Zhang and Muhammad Abdul-Mageed and Ganesh Jawahar},
journal= {arXiv preprint arXiv:2203.07648},
year = {2023}
}
备注
Final camera-ready version for ACL2023