顾及他人：目标、副作用与行动决策
人工智能
2021-06-07 v1 机器学习
摘要
AI安全领域的近期工作强调，在序贯决策中，目标常常是欠指定或不完整的。这赋予了执行智能体自由裁量权，使其可能以导致不良结果的方式实现既定目标。我们认为，要学习安全行动，强化学习(RL)智能体应将在环境中其行为对他人（包括其他行动智能体和反应过程）的福祉与能动性影响纳入考量。我们通过基于环境中他人未来回报期望来扩充RL智能体的奖励，为其提供刻画影响的不同准则，从而赋予这些智能体考量此类影响的能力。我们进一步赋予这些智能体将该影响差异化地纳入其决策的能力，表现出从自我中心到无私的行为，如网格世界(gridworld)环境中的实验所示。
引用
@article{arxiv.2106.02617,
title = {Be Considerate: Objectives, Side Effects, and Deciding How to Act},
author = {Parand Alizadeh Alamdari and Toryn Q. Klassen and Rodrigo Toro Icarte and Sheila A. McIlraith},
journal= {arXiv preprint arXiv:2106.02617},
year = {2021}
}