非参数时间自适应用于社交媒体话题分类
计算与语言
2023-05-17 v2
摘要
用户生成的社交媒体数据在不断变化,新趋势影响在线讨论,且因隐私顾虑个人数据被删除。然而,当前多数 NLP 模型是静态的并依赖固定训练数据,这意味着它们无法适应时间变化——包括测试分布偏移与训练数据被删——除非频繁且昂贵地重新训练。本文通过纵向话题标签预测任务研究时间自适应,并提出一种无需重新训练的非参数稠密检索技术,作为简单而有效的解决方案。在展现时间分布偏移的新收集、公开可用的长达一年的 Twitter 数据集实验中,我们的方法相较最佳参数化基线提升 64.12%,且无需其任何基于梯度的昂贵更新。我们的稠密检索方法也特别适合符合数据隐私法的动态删除用户数据,具有可忽略的计算成本与性能损失。
引用
@article{arxiv.2209.05706,
title = {Non-Parametric Temporal Adaptation for Social Media Topic Classification},
author = {Fatemehsadat Mireshghallah and Nikolai Vogler and Junxian He and Omar Florez and Ahmed El-Kishky and Taylor Berg-Kirkpatrick},
journal= {arXiv preprint arXiv:2209.05706},
year = {2023}
}