协同大型语言模型与任务特定模型用于时间序列异常检测
人工智能
2026-03-31 v5 机器学习
摘要
在异常检测中,基于大型语言模型的方法可以通过阅读专业文档引入专家知识,而任务特定小模型擅长从目标应用的训练数据中提取正常数据模式并检测数值波动。受人类神经系统启发——大脑存储专家知识,周围神经系统和脊髓处理诸如缩手反射和膝跳反射等特定任务——我们提出了 CoLLaTe,这是一个旨在促进 LLM 与任务特定模型协作的框架,利用两类模型的优势进行异常检测。具体而言,我们首先形式化了协作过程,并识别出协作中的两个关键挑战:(1)LLM 与任务特定小模型表达域之间的不对齐,以及(2)两类模型预测产生的误差累积。为应对这些挑战,我们随后在 CoLLaTe 中引入了两个关键组件:模型对齐模块和协作损失函数。通过理论分析与实验验证,我们证明这些组件有效缓解了所识别的挑战,并取得了优于基于 LLM 模型和任务特定模型的性能。
引用
@article{arxiv.2501.05675,
title = {Synergizing Large Language Models and Task-specific Models for Time Series Anomaly Detection},
author = {Feiyi Chen and Leilei Zhang and Guansong Pang and Roger Zimmermann and Shuiguang Deng},
journal= {arXiv preprint arXiv:2501.05675},
year = {2026}
}
备注
This work has been submitted to the IEEE for possible publication