LEAPMood:基于遗传算法驱动超参数调优的轻量高效情绪预测架构
计算与语言
2022-02-09 v2
摘要
准确且自动的情绪检测是用户画像等用例的基石,进而支撑广告、推荐系统等诸多应用。文本数据是表明个体情绪的主要来源之一。尽管情感识别已有广泛研究,情绪预测领域却鲜有探索。此外,从用户隐私角度看极为重要的端侧推理领域工作甚少。本文首次提出一种基于文本的端侧深度学习情绪预测方法LEAPMood。我们采用一种新颖的、面向端侧部署的目标函数,基于遗传算法(GA)进行超参数调优,并兼顾性能与规模优化参数。LEAPMood以对话情感识别(ERC)为第一模块,随后使用K-means聚类进行情绪预测。我们表明,结合字符嵌入、语音哈希与注意力以及条件随机场(CRF),在ERC任务上取得与当前最先进(SOTA)相近的性能,且模型规模显著缩减(>90%)。在DailyDialog数据集上,我们以仅1.67MB的内存占用取得62.05%的Micro F1分数。此外,我们为情绪预测任务整理了一数据集,LEAPMood取得72.12%的Macro F1分数。
引用
@article{arxiv.2202.02522,
title = {LEAPMood: Light and Efficient Architecture to Predict Mood with Genetic Algorithm driven Hyperparameter Tuning},
author = {Harichandana B S S and Sumit Kumar},
journal= {arXiv preprint arXiv:2202.02522},
year = {2022}
}
备注
Accepted at 16th IEEE International Conference on Semantic Computing (ICSC), January 26-28, 2022 [update: This paper won the "Best Paper Award" at ICSC 2022]