FewUser: 基于对比学习的少样本社交用户地理定位
信息检索
2024-04-16 v1 机器学习
社会与信息网络
摘要
为解决社交用户地理定位中地理标记数据稀缺的挑战,我们提出了FewUser,一个用于少样本社交用户地理定位的新颖框架。我们引入了用户与位置之间的对比学习策略,以在无训练数据或训练数据有限的情况下提高地理定位性能。FewUser的特点是一个用户表示模块,该模块利用预训练语言模型和用户编码器来有效处理和融合多样化的社交媒体输入。为弥合预训练语言模型知识与地理数据之间的差距,我们引入了一个包含硬提示、软提示和半软提示的地理提示模块,以增强位置信息的编码。对比学习通过对比损失和匹配损失实现,并辅以硬负样本挖掘策略来优化学习过程。我们构建了两个数据集TwiU和FliU,包含比现有基准更丰富的元数据,以评估FewUser,大量实验表明,FewUser在零样本和各种少样本设置下均显著优于最先进方法,在每类仅一个训练样本的情况下,在TwiU和FliU上分别实现了26.95%和41.62%的绝对改进。我们进一步进行了全面分析,以研究用户表示对地理定位性能的影响以及FewUser各组件的有效性,为该领域的未来研究提供了宝贵见解。
引用
@article{arxiv.2404.08662,
title = {FewUser: Few-Shot Social User Geolocation via Contrastive Learning},
author = {Menglin Li and Kwan Hui Lim},
journal= {arXiv preprint arXiv:2404.08662},
year = {2024}
}
备注
17 pages, 3 figures, 8 tables, submitted to ECML-PKDD 2024 for review