通过意外之财条款实现安全的变革性人工智能
计算机与社会
2021-08-31 v2 人工智能
摘要
社会可能很快会见到变革性人工智能（TAI）。关于 TAI 竞争的模型显示，企业面临在 TAI 系统安全之前就部署它们的巨大竞争压力。本文探讨针对该问题的一种拟议解决方案——意外之财条款（Windfall Clause），即开发者承诺将任何最终获得的极大利润中显著的一部分捐赠给公益事业。然而，意外之财条款的一个关键挑战在于企业必须有加入的理由，且必须相信这些承诺是可信的。我们将带有意外之财条款的 TAI 竞争模型加以扩展，以展示企业与政策制定者如何设计能克服这些挑战的意外之财条款。令人鼓舞的是，在广泛的情景下企业都能从加入意外之财条款中获益。我们还发现，当竞争更具危险性时，企业更频繁地加入意外之财条款。即便企业相互了解到彼此的能力，也很少希望撤回对意外之财条款的支持。这三项发现强化了利用意外之财条款促进 TAI 安全发展的理由。
引用
@article{arxiv.2108.09404,
title = {Safe Transformative AI via a Windfall Clause},
author = {Paolo Bova and Jonas Emanuel Müller and Benjamin Harack},
journal= {arXiv preprint arXiv:2108.09404},
year = {2021}
}