延迟传播Transformer：面向信息物理系统实用控制的通用计算引擎
人工智能
2021-11-01 v1 系统与控制
系统与控制
摘要
多智能体控制是信息物理系统(CPS)的核心主题。然而，当前控制方法要么由于感知不足和分散式设计而接收到非马尔可夫状态，要么收敛性差。本文提出延迟传播Transformer (DePT)，一种基于Transformer的新模型，专门用于对CPS进行全局建模，同时考虑来自物理世界的不可变约束。DePT引入锥形时空注意力先验，注入信息传播与聚合原理并实现全局视野。由于其设计中融入了物理约束归纳偏置，我们的DePT可即插即用于广泛类别的多智能体系统。在最具挑战性的CPS之一——开放世界中的网络级交通信号控制系统上的实验结果表明，我们的模型在合成和真实世界数据集上均优于最先进的专家方法。我们的代码发布于：https://github.com/VITA-Group/DePT。
引用
@article{arxiv.2110.15926,
title = {Delayed Propagation Transformer: A Universal Computation Engine towards Practical Control in Cyber-Physical Systems},
author = {Wenqing Zheng and Qiangqiang Guo and Hao Yang and Peihao Wang and Zhangyang Wang},
journal= {arXiv preprint arXiv:2110.15926},
year = {2021}
}