中文

具有不确定规范的规划(PUnS)

机器人学 2020-03-03 v3

摘要

奖励工程对强化学习系统的高性能至关重要。先前关于奖励设计的研究主要集中于表示奖励的马尔可夫函数。虽有研究将非马尔可夫奖励表达为线性时序逻辑(LTL)公式,但其侧重于用户直接定义的任务规范。然而,在许多现实应用中,任务规范是模糊的,只能表达为对 LTL 公式的一个信念。本文引入具有不确定规范的规划(PUnS),一种应对以 LTL 公式信念形式给出的非马尔可夫规范所带来的挑战的新表述。我们提出四种准则,刻画了不同应用中满足规范信念的语义,并在一个合成域内分析了这些准则的定性含义。我们证明了任意 PUnS 实例均存在等价的马尔可夫决策过程(MDP)。最后,我们在真实任务——由从人类示范推断任务规范的机器人自动布置餐桌——上展示了我们的方法。

关键词

引用

@article{arxiv.1906.03218,
  title  = {Planning With Uncertain Specifications (PUnS)},
  author = {Ankit Shah and Shen Li and Julie Shah},
  journal= {arXiv preprint arXiv:1906.03218},
  year   = {2020}
}

备注

Accepted for publication by IEEE Robotics and Automation Letters. Accepted for presentation at the 2020 IEEE International Conference on Robotics and Automation