保持人类的未来：我们为何及如何关闭通往 AGI 与超级智能的大门，以及我们应当构建什么
计算机与社会
2025-03-10 v4
摘要
过去十年（针对窄用途 AI）和最近几年（针对通用 AI）人工智能的戏剧性进展，已将 AI 从一门小众学术领域转变为全球许多最大公司的核心商业战略，每年有数千亿美元投资于推进 AI 能力的技术与方法。我们现在来到一个关键岔路口。随着新 AI 系统在许多认知领域的能力开始匹配并超越人类，人类必须决定：我们要走多远，以及走向何方？本文主张，我们应当通过关闭通往比人更聪明、自主、通用目的 AI——有时称为“AGI”——尤其是有时称为“超级智能”的超高人类水平版本的大门，来保持人类的未来。相反，我们应当专注于强大的、可信赖的 AI 工具，以赋能个体并变革性提升人类社会做其最擅长之事的能力。
引用
@article{arxiv.2311.09452,
title = {Keep the Future Human: Why and How We Should Close the Gates to AGI and Superintelligence, and What We Should Build Instead},
author = {Anthony Aguirre},
journal= {arXiv preprint arXiv:2311.09452},
year = {2025}
}
备注
62 pages, 2 figures, 3 appendices. This is a total rewrite and major expansion of a previous version entitled "Close the Gates."