AGI 安全文献综述
人工智能
2018-05-22 v2
摘要
通用人工智能 (AGI) 的发展有望成为一个重大事件。连同其诸多潜在益处，它也引发了严重的安全担忧 (Bostrom, 2014)。本文旨在为新兴的 AGI 安全领域提供一个易于获取且最新的参考文献集。已识别出大量 AGI 安全问题。我们列出这些问题，并调研近期解决它们的研究。我们还涵盖了基于当今有限知识如何最佳地看待 AGI、对 AGI 首次被创造时间的预测，以及其创造后会发生什么的工作。最后，我们回顾当前关于 AGI 的公共政策。
引用
@article{arxiv.1805.01109,
title = {AGI Safety Literature Review},
author = {Tom Everitt and Gary Lea and Marcus Hutter},
journal= {arXiv preprint arXiv:1805.01109},
year = {2018}
}
备注
Published in International Joint Conference on Artificial Intelligence (IJCAI), 2018