动态自适应注意力与监督对比学习：面向文本情感分类的新型混合框架
计算与语言
2026-04-14 v1
摘要
数字平台上用户生成的电影评论呈指数级增长，使得准确的文本情感分类成为自然语言处理中的一项基础任务。传统模型，包括标准BERT和循环架构，在处理长文本评论中的长距离语义依赖和解决模糊情感表达时常常力不从心。本文提出了一种新型混合框架，该框架将动态自适应多头注意力与监督对比学习无缝集成到基于BERT的Transformer编码器中。动态自适应注意力模块采用全局上下文池化向量来动态调节每个注意力头的贡献，从而聚焦于关键的情感承载词元，同时抑制噪声。同时，监督对比学习分支在嵌入空间中强制实现更紧密的类内紧凑性和更大的类间分离性。在IMDB数据集上的大量实验表明，所提模型取得了具有竞争力的性能，准确率达到94.67%，比强基线模型高出1.5至2.5个百分点。该框架轻量、高效，且易于扩展到其他文本分类任务。
引用
@article{arxiv.2604.10459,
title = {Dynamic Adaptive Attention and Supervised Contrastive Learning: A Novel Hybrid Framework for Text Sentiment Classification},
author = {Qingyang Li},
journal= {arXiv preprint arXiv:2604.10459},
year = {2026}
}