中文

目标核规划:面向带目标条件选项逻辑任务的可线性求解非马尔可夫策略

人工智能 2025-06-12 v2

摘要

在分层规划领域,组合性、抽象性与任务迁移对于设计能够高效解决各类问题并最大化表示复用的算法至关重要。许多现实问题需要非马尔可夫策略来处理带逻辑条件的复杂结构化任务,这常导致状态表示过大而难以承受;因而需要有效的方法将这些问题分解并在任务间复用结构。为此,我们引入一种称为可线性求解目标核动态规划(LS-GKDP)的组合框架,以应对带顺序约束的非马尔可夫布尔子目标任务的求解复杂度。LS-GKDP将可线性求解马尔可夫决策过程(LMDP)形式体系与强化学习的选项框架相结合。LMDP可作为一个主特征向量问题高效求解,而选项是带有终止条件的策略、用作时间扩展动作;通过LS-GKDP我们将LMDP扩展至对选项进行控制以处理逻辑任务。这涉及将高维问题分解为每个目标的一组目标条件选项,并构造一个目标核,即从选项初态跳至其终止态并更新高层任务状态的抽象转移核。我们展示了带目标核的LMDP如何在任务基础所定义的低维子空间中高效优化元策略。选项也可在不显著重算的情况下重映射到超指数任务空间内的新问题中,且我们识别出解对任务基础不变的情形,从而实现零样本任务迁移。

关键词

引用

@article{arxiv.2007.02527,
  title  = {Goal Kernel Planning: Linearly-Solvable Non-Markovian Policies for Logical Tasks with Goal-Conditioned Options},
  author = {Thomas J. Ringstrom and Mohammadhosein Hasanbeig and Alessandro Abate},
  journal= {arXiv preprint arXiv:2007.02527},
  year   = {2025}
}

备注

52 Pages total. This is an update to a paper we submitted to a Journal and received reviewer feedback for improvement