ShapeFormer：用于多变量时间序列分类的形状集 Transformer

多变量时间序列分类 (MTSC) 因其多样化的实际应用场景而引起了广泛关注。最近，利用 Transformer 进行 MTSC 已取得最前沿的性能。然而，现有方法关注通用特征，提供了对数据的全面理解，但忽略了每个类别中至关重要的类别特定特征，导致在不平衡数据集或整体模式相似但在细微类别特定细节上存在差异的数据集上表现不佳。本文提出一种新型形状集 Transformer (ShapeFormer)，由类别特定和通用 Transformer 模块组成，用于捕获这两种特征。在类别特定模块中，我们引入一种发现方法，从训练集中提取每个类别的判别性子序列（即形状集）。随后，我们提出一种形状集滤波器来学习这些形状集与输入时间序列之间的差异特征。我们发现，每个形状集的差异特征包含重要的类别特定特征，因为它在其所属类别与其他类别之间显示出显著的区别。在通用模块中，使用卷积滤波器提取包含区分所有类别信息的通用特征。对于每个模块，我们采用 Transformer 编码器来捕获其特征之间的相关性。因此，两个 Transformer 模块的组合使我们能够利用这两种特征的优势，从而增强分类性能。我们在 30 个 UEA MTSC 数据集上的实验表明，ShapeFormer 在与最前沿方法比较的结果中实现了最高的准确率排名。代码可在 https://github.com/xuanmay2701/shapeformer 获取。