AI的不可预测性
人工智能
2019-05-31 v1 系统与控制
摘要
新兴的AI安全(AI Safety)领域仍在识别其挑战与局限的过程中。本文正式描述了一个此类不可能性结果,即AI的不可预测性(Unpredictability of AI)。我们证明,即使已知系统的终端目标,也不可能精确且一致地预测一个超人类智能系统为实现其目标将采取的具体行动。最后,讨论了不可预测性对AI安全的影响。
引用
@article{arxiv.1905.13053,
title = {Unpredictability of AI},
author = {Roman V. Yampolskiy},
journal= {arXiv preprint arXiv:1905.13053},
year = {2019}
}