具备竞价能力的智能集装箱:一种用于半合作学习的策略梯度算法
人工智能
2020-05-05 v1 机器学习
多智能体系统
摘要
物理互联网范式所倡导的智能模块化货运集装箱,配备有传感器、数据存储能力和智能,使其能够在无需人工干预或中心治理的情况下从起点自主路由至目的地。在这种自组织环境中,集装箱可在现货市场环境中自主对运输服务进行竞价。然而,对于单个集装箱而言,由于观测有限,可能难以学习良好的竞价策略。通过彼此共享信息与成本,智能集装箱可以联合学习竞价策略,即便同时竞争同一运输能力。我们通过在一个半合作多智能体环境中学习随机竞价策略来复现这一行为。为此,我们开发了一种基于策略梯度框架的强化学习算法。数值实验表明,仅共享竞价与接受决策即可得出稳定的竞价策略。额外的系统信息仅边际改善性能;单个作业属性已足以给出恰当竞价。此外,我们发现承运商可能有动机不与智能集装箱共享信息。这些实验引发了若干后续研究方向,特别是自组织物流中智能集装箱与运输服务之间的交互。
引用
@article{arxiv.2005.00565,
title = {Smart Containers With Bidding Capacity: A Policy Gradient Algorithm for Semi-Cooperative Learning},
author = {Wouter van Heeswijk},
journal= {arXiv preprint arXiv:2005.00565},
year = {2020}
}
备注
15 pages