作为多智能体空间交互中因果责任度量的可行动作空间缩减
多智能体系统
2023-11-14 v2
摘要
在多智能体空间交互中建模因果责任，对于人类与自主智能体交互的安全性和效率至关重要。然而，当前的形式化责任度量与模型要么缺乏在伦理和哲学责任概念上的根基，要么无法应用于空间交互。在本文中，我们提出了一种专为多智能体空间交互（例如交通中的交互）量身定制的因果责任度量。在此类交互中，给定智能体可通过缩减另一智能体的可行动作空间来对其施加影响。因此，我们提出以可行动作空间缩减（FeAR）作为智能体间因果责任的度量。具体而言，我们关注针对同时动作的事后因果责任。我们提议使用 Moves de Rigueur（MdR）——一组一致的智能体规定动作集——来建模规范对责任分配的影响。我们将该度量应用于空间交互的网格世界仿真中，并展示动作、上下文与规范如何影响归属于各智能体的因果责任。最后，我们展示了该度量在复杂多智能体交互中的应用。我们认为，FeAR 度量是迈向跨学科责任量化框架的一步，该框架对于确保人—AI 系统中的安全性与有意义的人类控制是必要的。
引用
@article{arxiv.2305.15003,
title = {Feasible Action-Space Reduction as a Metric of Causal Responsibility in Multi-Agent Spatial Interactions},
author = {Ashwin George and Luciano Cavalcante Siebert and David Abbink and Arkady Zgonnikov},
journal= {arXiv preprint arXiv:2305.15003},
year = {2023}
}