可证明安全系统：可控 AGI 的唯一路径
计算机与社会
2023-09-06 v1 人工智能
机器学习
摘要
我们描述一条路径，通过构建可证明满足人类指定要求的人工通用智能（AGI），使人类与强大 AGI 安全共存并繁荣。我们认为，借助先进 AI 进行形式化验证与机制可解释性，此举不久将于技术上可行。我们进一步主张，这是保障安全可控 AGI 的唯一路径。文末列出若干挑战问题，其解决将助益此积极前景，并邀读者共襄此业。
引用
@article{arxiv.2309.01933,
title = {Provably safe systems: the only path to controllable AGI},
author = {Max Tegmark and Steve Omohundro},
journal= {arXiv preprint arXiv:2309.01933},
year = {2023}
}
备注
17 pages