中文

强化学习在金融中的应用——基于双深度 Q 网络的交易

机器学习 2022-06-30 v1 交易与市场微观结构

摘要

本文提出一种用于单一资产交易的双深度 Q 网络(Double Deep Q-Network)算法,即 E-mini S&P 500 连续期货合约。我们以已验证的设定作为环境基础并做了多处扩展。我们的交易智能体的特征不断扩展以纳入额外资产(如大宗商品),从而形成四个模型。我们也对环境条件(包括成本与危机)作出响应。我们的交易智能体先在特定时间段训练,再在新数据上测试,并与作为基准的买入持有策略(市场)比较。我们分析了不同模型间差异以及关于环境的样本内/样本外表现。实验结果显示交易智能体遵循恰当行为。它能针对不同环境调整策略,例如当存在交易成本时更频繁使用中性仓位。此外,净资产价值超过基准,且智能体在测试集上跑赢市场。我们提供了使用 DDQN 算法在金融领域中智能体行为的初步洞见。本研究结果可用于进一步开发。

关键词

引用

@article{arxiv.2206.14267,
  title  = {Applications of Reinforcement Learning in Finance -- Trading with a Double Deep Q-Network},
  author = {Frensi Zejnullahu and Maurice Moser and Joerg Osterrieder},
  journal= {arXiv preprint arXiv:2206.14267},
  year   = {2022}
}