中文

EmoLoom-2B:基于词典弱监督和KV-Off评估的情感分类与VAD快速基模型筛选

计算与语言 2026-02-17 v2

摘要

我们介绍EmoLoom-2B,这是一个轻量且可复现的管道,将参数不足20亿的参数的小型语言模型转化为情感分类与Valence-Arousal-Dominance(VAD)预测的快速筛选候选模型。为确保协议忠实且公平的评估,我们统一数据加载、训练和推理流程,并采用KV-off解码作为默认设置,以消除可避免的方差。我们融合两种正交语义正则化器:一种是保持VAD约束的约束,确保生成文本与目标VAD三元组一致;另一种是轻量级外部情感分类器,提供训练时关于目标达成、可控性、确定性和公平性的指导,而无需注入冗长的论证。为提高极性灵敏度,我们引入基于镜像情感对的Valence Flip数据增强。在监督微调期间,我们应用A/B混合抽样和熵感温度调度,以平衡覆盖率和收敛。使用Qwen-1.8B-Chat作为基础模型,EmoLoom-2B在GoEmotions和EmpatheticDialogues上取得优异性能,并在DailyDialog上表现出稳健的跨语料 generalization。该提议的配方具有预算意识、可审计和可重入特性,为 heavier training或多模态融合提供可靠的筛选通过。

关键词

引用

@article{arxiv.2601.01112,
  title  = {EmoLoom-2B: Fast Base-Model Screening for Emotion Classification and VAD with Lexicon-Weak Supervision and KV-Off Evaluation},
  author = {Zilin Li and Weiwei Xu and Xuanbo Lu and Zheda Liu},
  journal= {arXiv preprint arXiv:2601.01112},
  year   = {2026}
}

备注

This paper presents an initial and self-contained study of a lightweight screening pipeline for emotion-aware language modeling, intended as a reproducible baseline and system-level design reference. This latest version corrects and updates certain personal information