情感分析的针对性蒸馏
计算与语言
2025-11-04 v2
摘要
本文探讨了情感分析的针对性蒸馏方法，旨在构建兼具紧凑性与实用性，同时保留强大且可泛化情感分析能力的模型。为此，我们在概念上将蒸馏目标解耦为知识和对齐，并据此提出两种阶段的蒸馏框架。此外，我们引入 SentiBench，一个涵盖 12 个数据集中多样任务的全面且系统化情感分析基准。我们在该基准上评估了广泛的模型。实验结果表明，我们的方法在多样化的情感分析任务中显著提升了紧凑模型的性能，所得模型对未见任务表现出强大的泛化能力，展现出对现有小规模模型的强大竞争力。
关键词
引用
@article{arxiv.2503.03225,
title = {Targeted Distillation for Sentiment Analysis},
author = {Yice Zhang and Guangyu Xie and Jingjie Lin and Jianzhu Bao and Qianlong Wang and Xi Zeng and Ruifeng Xu},
journal= {arXiv preprint arXiv:2503.03225},
year = {2025}
}