基于GPT数据增强训练的移动端表情符号分类器,用于移动键盘
计算与语言
2025-02-14 v2
摘要
表情符号改善了使用移动键盘交换文本的智能手机用户之间的沟通质量。为了基于输入文本为用户预测表情符号,我们需要考虑设备端的低内存和时间限制,确保设备端表情符号分类器覆盖广泛的表情符号类别(尽管表情符号数据集通常是不平衡的),并将表情符号分类器的输出适配于用户偏好。本文提出了一种基于MobileBert的设备端表情符号分类器,具有合理的内存和延迟要求,适用于SwiftKey。为应对数据不平衡,我们利用广泛使用的GPT为每个表情符号类别生成一个或多个标签。对于每个表情符号及其对应标签,我们将原始集合与GPT生成的句子合并,并用该表情符号进行标注,无需人工干预以缓解数据不平衡。在推理时,我们将表情符号输出与用户历史记录进行插值,以实现更好的表情符号分类。结果表明,部署在SwiftKey上的所提出的设备端表情符号分类器显著提升了表情符号预测的准确性,特别是在稀有表情符号和表情符号互动方面。
引用
@article{arxiv.2411.05031,
title = {On-Device Emoji Classifier Trained with GPT-based Data Augmentation for a Mobile Keyboard},
author = {Hossam Amer and Joe Osborne and Michael Zaki and Mohamed Afify},
journal= {arXiv preprint arXiv:2411.05031},
year = {2025}
}
备注
8 pages