LogTinyLLM:基于上下文的微型大语言模型日志异常检测
机器学习
2025-07-16 v1 人工智能
计算机视觉与模式识别
摘要
使用传统基于规则或基于深度学习的方法进行日志异常检测往往面临大规模日志序列的挑战。因此,有效检测日志序列中的异常序列至关重要,用于系统维护和开发。本文提出一种针对大日志数据集中日志序列上下文异常检测的参数高效微调方法,具体使用低秩适应(LoRA)和适配器方法。我们在 Thunderbird 数据集上对不同的微型大语言模型(LLM)进行比较。结果表明,LoRA 基于微调的方法相较于 LogBert 基于全微调方法在性能上提升了 18-19 个百分点,准确率达到 97.76%-98.83%,而全微调方法仅为 79.37%。
引用
@article{arxiv.2507.11071,
title = {LogTinyLLM: Tiny Large Language Models Based Contextual Log Anomaly Detection},
author = {Isaiah Thompson Ocansey and Ritwik Bhattacharya and Tanmay Sen},
journal= {arXiv preprint arXiv:2507.11071},
year = {2025}
}