论超级智能的不重要性

人类面临许多生存性威胁，但用于缓解这些威胁的资源有限。因此，如何选择以及何时部署这些资源是一个关乎命运的决定。在此，我分析了用于缓解超级智能风险的资源分配优先级。第一部分指出，一个不与外界连接的超级智能（去传出化的）不构成威胁，而来自有害超级智能的任何威胁都源于其所连接的外围系统，例如核武器、生物技术等等。由于具有生存性威胁的外围系统已经存在且由人类控制，超级智能的初始效应仅仅会叠加到现有人类引发的风险之上。这种叠加风险可以被量化，并且在特定假设下，其随具备摧毁文明能力的人类数量的平方而递减。第二部分提出，在外围系统中生物技术的风险排名靠前，因为根据所有迹象，许多人类已经具备改造具有大流行传播能力的有害微生物的技术能力。生物医学与计算领域的进展将使这一威胁扩散。并非通用超级智能的“学者型（savant）”软件将支撑此类进展的绝大部分，从而成为带来最高且最迫近生存性风险的软件——其风险先于假想的超级智能风险。分析得出结论：资源应优先用于缓解外围系统与学者型软件的风险。对超级智能的担忧至多居于次要地位，且可能是多余的。