利用价值强化学习避免 wireheading
人工智能
2016-05-11 v1
摘要
我们如何为任意智能的智能体设计良好的目标？强化学习（RL）是一种自然的方法。不幸的是，RL 对于通用智能体而言效果不好，因为 RL 智能体有动机绕过奖励传感器以获取最大奖励——即所谓的 wireheading 问题。在本文中，我们提出一种称为价值强化学习（VRL）的 RL 替代方案。在 VRL 中，智能体使用奖励信号学习一个效用函数。VRL 设置允许我们通过约束智能体的动作来消除 wireheading 的动机。该约束根据智能体的信念分布定义，且不需要显式指定哪些动作构成 wireheading。
引用
@article{arxiv.1605.03143,
title = {Avoiding Wireheading with Value Reinforcement Learning},
author = {Tom Everitt and Marcus Hutter},
journal= {arXiv preprint arXiv:1605.03143},
year = {2016}
}
备注
Artificial General Intelligence (AGI) 2016