AF-MAT:基于轴向感知翻转-融合 xLSTM 的轴向情感分析
计算与语言
2025-08-15 v2
摘要
轴向情感分析(ABSA)是从文本中提取细粒度意见与情感的关键自然语言处理任务,例如产品评论和客户反馈。现有方法常在效率与性能之间失衡:传统的LSTM或RNN模型难以捕获长程依赖,基于转换器的方法计算成本高昂,Mamba-based方法依赖CUDA且削弱了局部依赖建模。最近提出的扩展长短期记忆(xLSTM)模型通过指数门控和增强记忆变体(sLSTM用于建模局部依赖,mLSTM用于可扩展且可并行的记忆)有效捕获长程依赖,为ABSA提供了有前景的替代方案。然而,xLSTM在ABSA中的应用尚未探索。为此,我们引入轴向感知翻转-融合 xLSTM(AF-MAT),一个利用xLSTM优势的框架。AF-MAT包含轴向感知矩阵LSTM(AA-mLSTM)机制,引入专用轴向门,使模型在记忆更新时能够选择性地强调与目标轴向相关的语义标记。为建模多尺度上下文,我们采用FlipMix模块,依次应用部分翻转Conv1D(pf-Conv1D)以反序捕获短程依赖,随后采用完全翻转mLSTM(ff-mLSTM)通过完全序列翻转来建模长程依赖。此外,我们提出MC2F,即基于mLSTM门控的轻量级多头交叉特征融合,动态融合AA-mLSTM输出(查询和键)与FlipMix输出(值),实现自适应表征集成。在三个基准数据集上的实验表明,AF-MAT在ABSA任务中超越了最先进的基线,实现了更高的准确率。
引用
@article{arxiv.2507.01213,
title = {AF-MAT: Aspect-aware Flip-and-Fuse xLSTM for Aspect-based Sentiment Analysis},
author = {Adamu Lawan and Juhua Pu and Haruna Yunusa and Muhammad Lawan and Mahmoud Basi and Muhammad Adam},
journal= {arXiv preprint arXiv:2507.01213},
year = {2025}
}
备注
9, 4 figure