利用车辆事件传感数据进行错误模式预测：一种语言模型方法

在本文中，我们将自然语言处理与处理车辆多变量事件流进行类比，以预测给定汽车在未来最有可能在$\textit{何时}$发生$\textit{何种}$错误模式。我们的方法利用了来自车队的事件数据的时间动态和上下文关系。事件数据由错误代码的离散值以及时间和里程等连续值组成。通过两个因果 Transformer 建模，我们可以在车辆故障和失灵发生之前对其进行预测。因此，我们引入了 $\textit{CarFormer}$（一种通过新的自监督学习策略训练的 Transformer 模型）和 $\textit{EPredictor}$（一种自回归 Transformer 解码器模型，能够预测在某些错误代码出现后最有可能在$\textit{何时}$发生$\textit{何种}$错误模式）。尽管面临事件类型高基数、出现频率不平衡以及标记数据有限等挑战，我们的实验结果证明了我们新模型的出色预测能力。具体而言，在平均 $160$ 个错误代码的序列下，我们的模型仅使用一半的错误代码即可在预测将发生$\textit{何种}$错误模式时达到 $80\%$ 的 F1 分数，并在$\textit{预测}$发生时间时达到 $58.4 \pm 13.2$ 小时的平均绝对误差，从而实现可靠的预测性维护并提高车辆安全性。