SLMs温度对现场环境事件分类的影响
分布式、并行与集群计算
2025-11-26 v1 人工智能
密码学与安全
机器学习
性能
摘要
安全运营中心（SOCs）和计算机安全事件响应团队（CSIRTs）面临着自动化事件分类的日益增大的压力，但云端大型语言模型（LLM）的使用会带来成本、延迟和机密性风险。我们研究了本地执行的小型语言模型（SLMs）是否能够满足这一挑战。我们评估了21个参数范围从1B到20B的模型，讨变异温度超参数并测量执行时间和准确率，涵盖两种不同的体系结构。结果表明，温度对性能影响不大，而参数数量和GPU容量是决定性因素。
引用
@article{arxiv.2511.19464,
title = {Temperature in SLMs: Impact on Incident Categorization in On-Premises Environments},
author = {Marcio Pohlmann and Alex Severo and Gefté Almeida and Diego Kreutz and Tiago Heinrich and Lourenço Pereira},
journal= {arXiv preprint arXiv:2511.19464},
year = {2025}
}
备注
5 pages, 3 figures, 2 tables, submitted to ERRC/WRSeg 2025