面向隐式情感分析的认知评估驱动的任务路由混合专家模型

隐式情感分析具有挑战性，因为情感往往是从事件中推断而来，而非通过明确的情感词语表达。现有模型通常仅从最终极性标签中学习，这为从上下文中推断情感提供了有限的指导。受认知评估理论启发，我们提出一种认知评估感知的多任务学习（MTL）框架，用于隐式情感分析，辅以两个互补的辅助任务：隐式情感检测与认知论述生成。然而，在MTL中训练多个目标、共享单一主干网络会限制灵活性并导致任务间干扰。为减少这些相关但独立目标之间的干扰，我们采用任务级别的混合专家模型，所有任务共享一组专家，任务身份控制这些专家的稀疏组合。我们基于编码器-解码器架构，将部分编码器和解码器块替换为稀疏混合专家。我们使用任务条件路由器为每个任务选择稀疏专家混合，并通过任务分离路由目标鼓励不同任务学习不同的专家选择模式。实验结果表明，我们的模型在隐式情感子集上超越了最近的方法，取得了显著提升。我们的代码已公开于https://github.com/yaping166/TRMoE-ISA。