具有能量-奇偶性目标的马尔可夫决策过程
计算机科学中的逻辑
2017-04-19 v3
摘要
能量-奇偶性目标将奖励马尔可夫决策过程 (MDP) 的 -正则目标与定量目标相结合。控制器需要在满足奇偶性目标的同时避免能量耗尽。我们驳斥了普遍认为的“若一个能量-奇偶性目标几乎必然成立,则它可由某个有限记忆策略实现”的观点。我们提供了一个仅使用 coBüchi 条件的、出奇简单的反例。我们引入了有界(能量)存储目标这一新类别,当它与奇偶性目标结合时,能保持有限记忆性质。基于此,我们证明了几乎必然和极限必然能量-奇偶性目标,以及几乎必然和极限必然存储奇偶性目标,都属于 ,并且对于能量-奇偶性 MDP 可在伪多项式时间内求解。
引用
@article{arxiv.1701.02546,
title = {MDPs with Energy-Parity Objectives},
author = {Richard Mayr and Sven Schewe and Patrick Totzke and Dominik Wojtczak},
journal= {arXiv preprint arXiv:1701.02546},
year = {2017}
}