中文

预训练、提示与迁移:面向信息物理系统事件时间分析的演化数字孪生

软件工程 2024-04-03 v3

摘要

信息物理系统(CPSs),例如电梯系统与自动驾驶系统,正逐步渗透我们的日常生活。为保障其安全性,需要进行多种分析,例如异常检测与事件时间分析(本文重点)。近来,数字孪生(DTs)被广泛认为可作为一种高效手段,辅助 CPSs 的开发、维护及安全可信运行。然而,CPSs 频繁演化,例如新增或更新功能,这要求其相应的 DTs 同步演化,即与 CPSs 保持同步。为此,我们提出一种名为 PPT 的新方法,利用不确定性感知迁移学习实现 DT 演化。具体而言,我们首先使用预训练数据集对 PPT 进行预训练以获取关于 CPSs 的通用知识,随后借助提示调优将其适配至特定 CPS。结果凸显 PPT 在电梯与自动驾驶系统(ADSs)案例研究的事件时间分析中均有效,平均而言,分别以 Huber 损失计比基线方法优 7.31 与 12.58。实验结果也证实了迁移学习、提示调优与不确定性量化在降低 Huber 损失方面的有效性,在两个案例研究中分别至少降低 21.32、3.14 与 4.08。

关键词

引用

@article{arxiv.2310.00032,
  title  = {Pretrain, Prompt, and Transfer: Evolving Digital Twins for Time-to-Event Analysis in Cyber-physical Systems},
  author = {Qinghua Xu and Tao Yue and Shaukat Ali and Maite Arratibel},
  journal= {arXiv preprint arXiv:2310.00032},
  year   = {2024}
}