重新审视LLM作为零样本时间序列预测器：微小噪声可破坏大模型
机器学习
2025-06-03 v1
摘要
大型语言模型（LLM）在无需特定领域训练的各种任务中展现出了卓越的性能，这激发了人们对其在时间序列预测中潜力的兴趣。虽然 LLM 仅通过提示便在零样本预测中展现出潜力，但最近的研究表明 LLM 在预测方面缺乏固有的有效性。鉴于这些相互矛盾的发现，必须进行严格的验证才能得出可靠的结论。在本文中，我们评估了 LLM 作为零样本预测器与最先进的特定领域模型相比的有效性。我们的实验表明，基于 LLM 的零样本预测器由于对噪声的敏感性，往往难以实现高精度，其表现甚至不如简单的特定领域模型。我们探索了在零样本设置下降低 LLM 对噪声敏感性的解决方案，但提高其鲁棒性仍然是一个重大挑战。我们的发现表明，与其强调零样本预测，一个更有前景的方向是专注于微调 LLM 以更好地处理数值序列。我们的实验代码可在 https://github.com/junwoopark92/revisiting-LLMs-zeroshot-forecaster 获取。
引用
@article{arxiv.2506.00457,
title = {Revisiting LLMs as Zero-Shot Time-Series Forecasters: Small Noise Can Break Large Models},
author = {Junwoo Park and Hyuck Lee and Dohyun Lee and Daehoon Gwak and Jaegul Choo},
journal= {arXiv preprint arXiv:2506.00457},
year = {2025}
}
备注
Annual Meeting of the Association for Computational Linguistics (ACL), 2025, Accepted as Short Paper