曼哈顿陷阱：为何发展人工智能超级智能的赛跑是自我失败的
计算机与社会
2025-01-28 v1
摘要
本文考察了国际竞争开发造人工智能超级智能（ASI）的战略动态。我们认为，可能激励美国争取开发ASI的假设也暗示了此类竞赛极其危险。这些假设——即ASI将提供决定性的军事优势以及国家是优先考虑生存的理性行动者——意味着竞赛会加剧三个关键风险：大国冲突、失去对ASI系统的控制以及损害自由民主制度。我们的分析表明，ASI呈现出一种信任困境而非囚徒困境， suggesting that international cooperation to control ASI development is both preferable and strategically sound. 我们得出结论的是，合作是可实现的。
引用
@article{arxiv.2501.14749,
title = {The Manhattan Trap: Why a Race to Artificial Superintelligence is Self-Defeating},
author = {Corin Katzke and Gideon Futerman},
journal= {arXiv preprint arXiv:2501.14749},
year = {2025}
}