管理智能体奖励的“无差异”方法
人工智能
2018-06-06 v4
摘要
“无差异”（Indifference）指一类用于控制基于奖励的智能体的方法。无差异技术旨在实现三个不同目标中的一个或多个：依赖于特定事件的奖励（而智能体无动机去操纵那些事件的概率）、有效不信（智能体表现得如同特定事件绝不会发生）以及从一种奖励函数到另一种的无缝过渡（智能体表现得如同此变化未被预料）。本文提出在 POMDP 设定下实现这些目标的若干方法，并确立其用途、优势与要求。这些控制方法即便在智能体奖励的含义其他方面未被完全理解时仍奏效。
引用
@article{arxiv.1712.06365,
title = {'Indifference' methods for managing agent rewards},
author = {Stuart Armstrong and Xavier O'Rourke},
journal= {arXiv preprint arXiv:1712.06365},
year = {2018}
}