TanksWorld：用于 AI 安全研究的多智能体环境
人工智能
2020-02-27 v1 多智能体系统
摘要
创造能够执行复杂任务的人工智能（AI）的能力正迅速超越我们确保 AI 赋能系统安全与可靠运行的能力。幸运的是，为应对这种不对称而涌现的 AI 安全研究图景尚处于起步且仍有长路要走。特别是，近期为阐释 AI 安全风险而创建的仿真环境相对简单或狭隘地聚焦于某一特定问题。因此，我们认为亟需能够抽象复杂现实应用本质方面的 AI 安全研究环境。本工作中，我们引入 AI 安全 TanksWorld 作为一个具备三个本质方面的 AI 安全研究环境：竞争性性能目标、人机协同与多智能体竞争。AI 安全 TanksWorld 旨在通过提供支撑兼具系统性能与安全目标的竞赛的软件框架，加速安全多智能体决策算法的发展。作为一项进行中的工作，本文介绍我们的研究目标与学习环境，参考代码与基线性能指标将于未来工作中给出。
引用
@article{arxiv.2002.11174,
title = {TanksWorld: A Multi-Agent Environment for AI Safety Research},
author = {Corban G. Rivera and Olivia Lyons and Arielle Summitt and Ayman Fatima and Ji Pak and William Shao and Robert Chalmers and Aryeh Englander and Edward W. Staley and I-Jeng Wang and Ashley J. Llorens},
journal= {arXiv preprint arXiv:2002.11174},
year = {2020}
}