面向更安全超级智能的人工智能与人类协同改进
人工智能
2025-12-16 v2
摘要
自我改进是当前令人工智能领域兴奋的目标，但充满危险，且可能需要时间才能完全实现。我们主张，对人类而言一个更易实现且更佳的目标是最大化协同改进：人类研究者与人工智能之间的协作，以实现协同超级智能。即，专门致力于提升人工智能系统与人类研究者合作开展人工智能研究的能力，从构思到实验，从而加速人工智能研究，并通过二者的共生关系赋予人工智能和人类更安全的超级智能。将人类研究者的改进纳入闭环，既能让我们更快实现这一目标，也能更安全地达成。
引用
@article{arxiv.2512.05356,
title = {AI & Human Co-Improvement for Safer Co-Superintelligence},
author = {Jason Weston and Jakob Foerster},
journal= {arXiv preprint arXiv:2512.05356},
year = {2025}
}