面向高级人工智能的关机安全阀
人工智能
2026-03-10 v1 机器学习
摘要
关于高级人工智能的一个常见担忧是，它会阻止我们将其关闭，因为这会干扰其追求自身目标。在本文中，我们讨论了一个解决此问题的非正统提议：赋予AI一个被关闭的(主要)目标(另见Martin等人以及Goldstein和Robinson的论文)。我们还讨论了这是否以及在何种条件下会是一个好主意。
引用
@article{arxiv.2603.07315,
title = {Shutdown Safety Valves for Advanced AI},
author = {Vincent Conitzer},
journal= {arXiv preprint arXiv:2603.07315},
year = {2026}
}