AI时间线如何影响生存风险？
计算机与社会
2022-09-13 v1
摘要
超人级通用人工智能可能在本世纪内被创造出来，并很可能成为生存风险的重要来源。推迟超级智能AI（ASI）的创造可通过增加人类解决AI对齐问题的时间来降低总体生存风险。然而，由于ASI能够降低大多数风险，推迟ASI的创造也可能增加其他生存风险，尤其是来自合成生物学与分子纳米技术等先进未来技术的风险。若AI生存风险相对于其他生存风险之和较高，则推迟ASI的创造往往会降低总体生存风险，反之亦然。战争与硬件过剩等因素可能增加AI风险，而认知增强则可能降低AI风险。为减少总体生存风险，人类应采取稳健的积极行动，如开展生存风险分析、AI治理与安全，并通过促进差异化技术发展来减少所有生存风险来源。
引用
@article{arxiv.2209.05459,
title = {How Do AI Timelines Affect Existential Risk?},
author = {Stephen McAleese},
journal= {arXiv preprint arXiv:2209.05459},
year = {2022}
}