START：一种带有显著性驱动的标记感知转换的通用状态空间模型

域通用性（Domain Generalization, DG）旨在通过学习多个源域来使模型能够对未见目标域进行泛化。现有方法主要依赖卷积神经网络（CNN），由于其受限的感受野，难以克服纹理偏差，容易对源域过拟合。虽然一些研究引入了基于Transformer的方法（ViT）以利用全局感受野，但由于自注意力的二次复杂度，计算成本较高。最近，由Mamba等表示的高级状态空间模型（SSM）在监督学习任务中展现出在训练时呈线性复杂度、推理时类似RNN的快速计算能力。鼓作灵感，我们研究了在域迁移下Mamba模型的泛化能力，发现SSM中的输入依赖矩阵会累积并放大特定域的特征，从而阻碍模型的泛化。为此，我们提出一种新型基于SSM的架构，采用显著性驱动的标记感知转换（称为START），实现了最先进（SOTA）的性能，为CNN和ViT提供了高效的替代方案。我们的START能够在SSM输入依赖矩阵中的显著标记中选择性地扰动和抑制特定域的特征，从而有效减少不同域之间的差异。广泛的实验在五个基准数据集上表明，START在保持高效线性复杂度的同时，优于现有SOTA DG方法。我们的代码已公开：https://github.com/lingeringlight/START。