中文

PerFormer:一种基于置换的视觉 Transformer 用于剩余寿命预测

机器学习 2025-06-17 v2 计算机视觉与模式识别

摘要

准确估计退化系统的剩余使用寿命(RUL)对于现代故障预测与健康管理(PHM)至关重要。最初为图像和视频识别等任务开发的卷积神经网络(CNN)在 RUL 预测中已被证明极为有效,展现出卓越的性能。然而,随着 Vision Transformer(ViT)——一种为图像分类等计算机视觉任务量身定制的 Transformer 模型的出现,及其相对于 CNN 所展现出的优越性,探索其在提升 RUL 预测精度方面的潜力成为一种自然的倾向。尽管如此,将 ViT 直接应用于多变量传感器数据进行 RUL 预测面临挑战,这主要是由于时间序列数据中空间信息的模糊性。为了解决这个问题,我们引入了 PerFormer,一种基于置换的视觉 Transformer 方法,旨在对多变量时间序列数据进行置换,模拟类似于图像数据的空间特征,从而使其适用于 ViT。为了生成所需的置换矩阵,我们引入了一种新颖的置换损失函数,旨在引导任意矩阵收敛至置换矩阵。我们在 NASA 的 C-MAPSS 数据集上的实验表明,与采用 CNN、循环神经网络(RNN)和各种 Transformer 模型的 state-of-the-art 方法相比,PerFormer 在 RUL 预测中表现出优越的性能。这凸显了其在 PHM 应用中的有效性和潜力。

关键词

引用

@article{arxiv.2506.00259,
  title  = {PerFormer: A Permutation Based Vision Transformer for Remaining Useful Life Prediction},
  author = {Zhengyang Fan and Wanru Li and Kuo-chu Chang and Ting Yuan},
  journal= {arXiv preprint arXiv:2506.00259},
  year   = {2025}
}

备注

One of the coauthors does not want to post current version of paper, and insists to withdraw the submission