揭示经济事实：LLM 知道的比说的更多
计算与语言
2025-12-11 v2 机器学习
综合经济学
经济学
摘要
我们探讨了大语言模型 (LLM) 的隐藏状态能否用于估计和不完整经济与金融统计数据的方法。聚焦县级（如失业率）和企业级（如总资产）变量，我们展示，一个简单线性模型在开源 LLM 的隐藏状态上优于模型的文本输出。这表明隐藏状态捕获了比 LLM 直接透露更丰富的经济信息。学习曲线分析表明，仅需少量标注样本即可完成训练。我们还提出一种迁移学习方法，可在无需目标变量标注数据的情况下提高估计精度。最后，我们展示了隐藏状态表示在超分辨率和数据不完整填充任务中的实际用途。
引用
@article{arxiv.2505.08662,
title = {Revealing economic facts: LLMs know more than they say},
author = {Marcus Buckmann and Quynh Anh Nguyen and Edward Hill},
journal= {arXiv preprint arXiv:2505.08662},
year = {2025}
}
备注
34 pages, 17 figures