用因果影响图建模AGI安全框架
人工智能
2019-06-21 v1
摘要
安全AGI系统的提案通常在框架层面提出，规定所提议系统的各组件应如何训练并相互交互。在本文中，我们利用因果影响图对最有前景的AGI安全框架进行建模与比较。这些图展示了框架的优化目标与因果假设。这种统一表示便于对框架及其假设进行轻松比较。我们希望这些图能作为对主要AGI安全框架的通俗可视化介绍。
引用
@article{arxiv.1906.08663,
title = {Modeling AGI Safety Frameworks with Causal Influence Diagrams},
author = {Tom Everitt and Ramana Kumar and Victoria Krakovna and Shane Legg},
journal= {arXiv preprint arXiv:1906.08663},
year = {2019}
}
备注
IJCAI 2019 AI Safety Workshop