中文

SPEAR:用于时序数据软提示增强异常识别

机器学习 2025-10-07 v1 人工智能

摘要

时序异常检测在诸多领域发挥着关键作用,如医疗保健和互联网流量监控。大型语言模型 (LLM) 的出现为检测普遍时序数据中的异常提供了新的机会。传统方法在处理可变长度时序序列和基于上下文的异常方面存在挑战。我们提出 Soft Prompt Enhanced Anomaly Recognition (SPEAR),这是一种新方法,利用软提示和量化技术来利用 LLM 进行异常检测。我们的 methodology 包括对时序数据进行量化和转换以生成输入嵌入,并将其与可学习的软提示嵌入组合。这些组合嵌入随后输入到冻结的 LLM 中。软提示基于交叉熵损失进行迭代更新,使模型能够适应时序异常检测。软提示的使用有助于有效地将 LLM 适应时序任务,而量化确保能够最佳处理序列,因为 LLM 设计用于处理离散序列。我们的实验结果表明,软提示有效地提高了 LLM 在下游时序异常检测任务中的性能。

关键词

引用

@article{arxiv.2510.03962,
  title  = {SPEAR: Soft Prompt Enhanced Anomaly Recognition for Time Series Data},
  author = {Hanzhe Wei and Jiajun Wu and Jialin Yang and Henry Leung and Steve Drew},
  journal= {arXiv preprint arXiv:2510.03962},
  year   = {2025}
}

备注

Accepted to 2025 IEEE International Conference on Autonomous and Trusted Computing (ATC 2025)