解决大语言模型前瞻偏差问题的快速有效方案
机器学习
2025-12-09 v1 计算与语言
摘要
将大语言模型应用于金融预测任务具有挑战性，这是由于其在长期时间序列数据上训练所导致的前瞻偏差。这排除了金融领域通常采用的回测方法，因为从特定知识截止点从头重新训练前沿模型的成本极高。在本文中，我们提出了一种快速、有效且低成本的替代方案。我们的方法通过在推理时调整大型基础模型的逻辑值来引导生成，使用一对较小且专门的模型——一个针对待遗忘信息进行微调，另一个针对待保留信息进行微调。我们证明，我们的方法有效消除了逐字和语义知识，纠正了偏差，并优于先前方法。
引用
@article{arxiv.2512.06607,
title = {A Fast and Effective Solution to the Problem of Look-ahead Bias in LLMs},
author = {Humzah Merchant and Bradford Levy},
journal= {arXiv preprint arXiv:2512.06607},
year = {2025}
}