LOBERT:用于限价簿消息的生成式 AI 基础模型
人工智能
2025-11-18 v1
摘要
在消息层面上对金融限价簿 (LOB) 动力学进行建模具有挑战性,因为事件时间不规则、快速的制度转换以及高频交易者对可见订单流的反应。以往的 LOB 模型需要繁琐的数据表示且缺乏超出其原始任务的适应性,因此我们引入 LOBERT,一个通用且适用于下游微调的 LOB 数据的编码器型基础模型。LOBERT 通过一种新颖的分词方案适应原始 BERT 架构,將完整的多维消息作为单个 token 处理,同时保持价格、volume 和 time 的连续表示。在这些方法下,LOBERT 在诸多任务中实现了领先的性能,如预测中间价格变动和预测下一消息,同时较以前方法显著减少所需的上下文长度。
引用
@article{arxiv.2511.12563,
title = {LOBERT: Generative AI Foundation Model for Limit Order Book Messages},
author = {Eljas Linna and Kestutis Baltakys and Alexandros Iosifidis and Juho Kanniainen},
journal= {arXiv preprint arXiv:2511.12563},
year = {2025}
}
备注
Submission for NeurIPS 2025 GenAI in Finance Workshop