自调节通用人工智能
人工智能
2018-02-19 v2
摘要
在此我们考察关于通用人工智能（AGI）的回形针末日担忧，即一个具有简单目标（例如生产回形针）的超级智能 AI 积累权力，使得所有资源都 devoted 于该简单目标而无法用于任何其他用途。我们给出了回形针末日可能出现的条件，但也表明，在 AI 递归自我改进的某些架构下，回形针 AI 可能会阻止权力能力的发展。原因在于，此类发展对 AI 构成了与人类（对 AI）相同的控制问题，因而威胁到其首要目标的资源供给。
引用
@article{arxiv.1711.04309,
title = {Self-Regulating Artificial General Intelligence},
author = {Joshua S. Gans},
journal= {arXiv preprint arXiv:1711.04309},
year = {2018}
}