反对超级人工智能未来存在的人择论证
人工智能
2017-05-10 v1
摘要
本文使用人择推理来论证超级人工智能（AI）在未来出现的可能性降低。为提出此论证，引入了一个新原理：超强自采样假设（SSSSA），它建立在自采样假设（SSA）和强自采样假设（SSSA）之上。SSA以其相关观测者作为样本，而SSSA进一步使用观测者时刻（observer-moments）。SSSSA更进一步，根据心智在认知上的规模按比例对每个样本加权。考虑到非人类动物在数量上远超人类，要使人类观测者样本具有典型性，就需要SSSSA。给定SSSSA，人类经历典型观测者样本的假设依赖于一个超级人工智能不占主导的未来，这反过来降低了其被创造出来的可能性。
引用
@article{arxiv.1705.03078,
title = {An Anthropic Argument against the Future Existence of Superintelligent Artificial Intelligence},
author = {Toby Pereira},
journal= {arXiv preprint arXiv:1705.03078},
year = {2017}
}
备注
11 pages