基于循环感知器的通道注意力变换编码器用于工业混合建模（RP-CATE）
机器学习
2025-12-23 v1
摘要
当今工业混合建模整合了机械建模和机器学习建模技术，因其高精度、低计算成本和满意的可解释性而受到学者们的日益关注。然而，现有的工业混合建模方法仍面临两个主要局限性。首先，当前研究主要集中于将单一机器学习方法应用于特定任务，未能开发出适用于建模任务的综合机器学习架构，这限制了其有效表示复杂工业情景的能力。其次，工业数据集常常包含潜在关联（如单调性或周期性），而当前研究未充分利用这些关联，可能降低模型的预测性能。为此，本文提出了循环感知器基于通道注意力变换编码器 (RP-CATE)，其具有三个独特特征：1 我们通过取代自注意力机制为通道注意力并整合我们提出的循环感知器 (RP) 模块到变换器中，实现了针对工业建模任务的增强有效性。2 我们针对通道注意力要求开发了称为伪图像数据 (PID) 的新数据类型，并开发了循环滑动窗口方法用于生成 PID。3 我们引入伪序列数据 (PSD) 的概念并提出了将工业数据集转换为 PSD 的方法，使 RP 模块能够更有效地捕获工业数据集中的潜在关联。针对化工工程中的混合建模进行实验，使用 RP-CATE 和实验结果表明 RP-CATE 在各种基线模型中实现了最佳性能。
引用
@article{arxiv.2512.19147,
title = {RP-CATE: Recurrent Perceptron-based Channel Attention Transformer Encoder for Industrial Hybrid Modeling},
author = {Haoran Yang and Yinan Zhang and Wenjie Zhang and Dongxia Wang and Peiyu Liu and Yuqi Ye and Kexin Chen and Wenhai Wang},
journal= {arXiv preprint arXiv:2512.19147},
year = {2025}
}
备注
9 pages, 4 figures