部分观测 MDP 的平均成本最优性:非线性滤波器的压缩、最优解与近似
最优化与控制
2024-08-01 v3
摘要
平均成本最优性被认为是部分观测随机控制中的一个挑战性难题,除了有限状态、动作和测量设置(对此仅有 somewhat 限制性条件可用)之外,可用结果寥寥无几。在本文中,我们提出了针对状态空间紧凑情形下平均成本最优方程解存在的显式且易于检验的条件。特别是,我们提出了一种基于压缩的新分析方法,据我们所知这在文献中尚属首次,该方法建立在非线性滤波器的近期正则性结果之上。除了确立存在性外,我们还提出了分析的几个新含义:(i) 对错误先验的鲁棒性;(ii) 基于量化近似的策略的次优性;(iii) 具有有限记忆的策略的次优性;以及 (iv) Q-learning 中的收敛性。除了我们的主定理外,每一项都代表了平均成本准则下的新颖贡献。
引用
@article{arxiv.2312.14111,
title = {Average Cost Optimality of Partially Observed MDPS: Contraction of Non-linear Filters, Optimal Solutions and Approximations},
author = {Yunus Emre Demirci and Ali Devran Kara and Serdar Yüksel},
journal= {arXiv preprint arXiv:2312.14111},
year = {2024}
}
备注
26 pages