低影响人工智能

对于人工智能而言，许多目标在其变得超级智能或以其他方式变得强大时可能变得危险。关于人工智能控制问题的大量工作一直专注于构建即使对这类人工智能也安全的目标。本文探讨一种替代方法：定义“低影响”的一般概念。其目的是确保一个实施低影响的强大人工智能不会广泛地改变世界，即使它被赋予一个简单或危险的目标。本文提出了定义和奠定低影响基础的各种方式，并讨论了确保人工智能在受限情况下仍能产生（期望的）影响的方法。文末讨论了该方法的已知问题及未来研究方向。