PopALM:用于社交媒体趋势响应预测的人气对齐语言模型
计算与语言
2024-03-01 v1
摘要
社交媒体平台每天都会展示数百万个事件。为了初步预测公众对这些事件的主流反应,我们研究了趋势响应预测,以自动生成针对社交媒体事件的获赞最多的用户回复。虽然以前的工作专注于生成不考虑人气的回复,但我们提出了人气对齐语言模型 (PopALM),通过强化学习来区分受更多受众喜欢的回复。认识到用户“点赞”带来的噪声标签,我们在近端策略优化 (PPO) 中量身定制了课程学习,以帮助模型捕捉关键样本,进行从易到难的训练。在实验中,我们构建了一个用于趋势响应预测的大规模微博数据集,结果表明 PopALM 有助于提升先进语言模型的性能。
引用
@article{arxiv.2402.18950,
title = {PopALM: Popularity-Aligned Language Models for Social Media Trendy Response Prediction},
author = {Erxin Yu and Jing Li and Chunpu Xu},
journal= {arXiv preprint arXiv:2402.18950},
year = {2024}
}
备注
Accepted by COLING 2024