概率多智能体系统中责任感知的策略推理
人工智能
2024-12-23 v2
摘要
责任在可信自主系统的开发与部署中起着关键作用。本文聚焦于具有责任感知智能体的概率多智能体系统中的策略推理问题。我们引入了逻辑 PATL+R，它是概率交替时序逻辑的一种变体。PATL+R 的新颖之处在于它纳入了因果责任的模态词，为责任感知的多智能体策略推理提供了一个框架。我们提出了一种合成联合策略的方法，该策略满足 PATL+R 中指定的结果，同时优化预期因果责任份额与奖励。这提供了一种在智能体之间均衡分配责任与奖励收益的概念。为此，我们利用纳什均衡作为策略推理问题的解概念，并展示了如何通过将问题归约为并发随机多玩家博弈的参数化模型检验来计算责任感知的纳什均衡策略。
引用
@article{arxiv.2411.00146,
title = {Responsibility-aware Strategic Reasoning in Probabilistic Multi-Agent Systems},
author = {Chunyan Mu and Muhammad Najib and Nir Oren},
journal= {arXiv preprint arXiv:2411.00146},
year = {2024}
}