中文

EmojiLM:对新表情符号语言的建模

计算与语言 2023-11-06 v1

摘要

随着互联网的快速发展,在线社交媒体以其多样化内容迎接着不同背景的人们。得益于表情符号超越文化或语言边界的丰富信息,其日益增多的使用成为一种显著趋势。然而,当前对表情符号的研究局限于单个表情符号预测,且可用于进一步研究这一有趣语言现象的数据资源有限。为此,我们利用大语言模型合成了一个大规模文本-表情符号平行语料库 Text2Emoji。基于该平行语料库,我们蒸馏出一个序列到序列模型 EmojiLM,专用于文本与表情符号的双向翻译。在公开基准和人工评估上的大量实验表明,我们提出的模型优于强基线,且该平行语料库有益于表情符号相关的下游任务。

关键词

引用

@article{arxiv.2311.01751,
  title  = {EmojiLM: Modeling the New Emoji Language},
  author = {Letian Peng and Zilong Wang and Hang Liu and Zihan Wang and Jingbo Shang},
  journal= {arXiv preprint arXiv:2311.01751},
  year   = {2023}
}