中文

具有能量-奇偶性目标的马尔可夫决策过程

计算机科学中的逻辑 2017-04-19 v3

摘要

能量-奇偶性目标将奖励马尔可夫决策过程 (MDP) 的 ω\omega-正则目标与定量目标相结合。控制器需要在满足奇偶性目标的同时避免能量耗尽。我们驳斥了普遍认为的“若一个能量-奇偶性目标几乎必然成立,则它可由某个有限记忆策略实现”的观点。我们提供了一个仅使用 coBüchi 条件的、出奇简单的反例。我们引入了有界(能量)存储目标这一新类别,当它与奇偶性目标结合时,能保持有限记忆性质。基于此,我们证明了几乎必然和极限必然能量-奇偶性目标,以及几乎必然和极限必然存储奇偶性目标,都属于 NPcoNP\mathit{NP}\cap \mathit{coNP},并且对于能量-奇偶性 MDP 可在伪多项式时间内求解。

关键词

引用

@article{arxiv.1701.02546,
  title  = {MDPs with Energy-Parity Objectives},
  author = {Richard Mayr and Sven Schewe and Patrick Totzke and Dominik Wojtczak},
  journal= {arXiv preprint arXiv:1701.02546},
  year   = {2017}
}