通用人工智能、生存风险与人类风险感知
计算机与社会
2023-11-16 v1 人工智能
摘要
通用人工智能（AGI）尚不存在，但鉴于人工智能技术的发展速度，预计将在未来约二十年内达到人类水平的智能。此后，许多专家预期其将迅速远超人类智能。超级智能 AGI 的前景对人类构成了生存风险，因为目前没有可靠的方法能确保 AGI 的目标与人类目标保持一致。作者利用公开可用的预测者及观点数据，考察了专家与非专家如何感知来自 AGI 的风险。研究结果表明，相较于其他生存风险，由 AGI 引发世界灾难或灭绝的感知风险更高。过去一年中，AGI 的感知风险上升幅度也比其他生存威胁（如核战争或人为气候变化）更为陡峭。AGI 是一种紧迫的生存风险，这一点专家与非专家均表认同，但这种认同的基础目前仍不明朗。
引用
@article{arxiv.2311.08698,
title = {Artificial General Intelligence, Existential Risk, and Human Risk Perception},
author = {David R. Mandel},
journal= {arXiv preprint arXiv:2311.08698},
year = {2023}
}