中文

LogICL:蒸馏大语言模型推理以弥合跨域日志异常检测中的语义鸿沟

软件工程 2025-12-11 v1

摘要

有效的日志异常检测对于维持大规模 IT 基础设施的可靠性至关重要。基于 Transformer 的模型需要大量资源和标注数据,加剧了目标域中日志稀缺的冷启动问题。现有的跨域方法利用源日志,但因依赖表面词汇相似性而难以泛化,无法在结构差异中捕捉潜在的语义等价性。为解决这一问题,我们提出 LogICL,一个将大语言模型 (LLM) 推理蒸馏为轻量级编码器的跨域异常检测框架。在训练期间,LogICL 构建了一个增量矩阵,用于衡量通过最大边际相关性选择的相对于零样本推理的示范效用。该编码器通过多目标损失进行优化,包括一个 ICL 引导项(基于推理辅助效用对齐表示)、最大均值差异(用于域对齐)和监督对比损失。在推理阶段,优化后的编码器通过语义相似度和增量分数检索推理感知的示范,使冻结的 LLM 能够通过思维链进行上下文学习,实现准确且可解释的异常检测。在少样本和零样本跨域基准测试上的实验证实了 LogICL 在异构系统中达到了最先进的性能。进一步的分析和案例研究证实,LogICL 弥合了超越表面词汇相似性的语义鸿沟,有效捕捉了潜在的语义等价性,实现了快速部署。

关键词

引用

@article{arxiv.2512.09627,
  title  = {LogICL: Distilling LLM Reasoning to Bridge the Semantic Gap in Cross-Domain Log Anomaly Detection},
  author = {Jingwei Ye and Zhi Wang and Chenbin Su and Jieshuai Yang and Jiayi Ding and Chunbo Liu and Ge Chu},
  journal= {arXiv preprint arXiv:2512.09627},
  year   = {2025}
}