当前及近期的AI作为潜在生存风险因素
计算机与社会
2022-09-23 v1 人工智能
摘要
已有大量且不断增长的证据与文献探讨人工智能(AI)技术对社会、政治及整个人类的影响。另一并行的工作体系探讨了人类的生存风险，包括但不限于由未对齐的人工通用智能(AGI)所引发的风险。在本文中，我们对以下观念提出质疑：当前及近期的AI技术有可能作为中间风险因素促成生存风险，且这种可能性并不限于未对齐AGI的情形。我们提出假设：某些已有文献记载的AI效应可作为生存风险因素，放大先前已识别的生存风险来源之可能性。此外，未来十年中的发展即便在没有人工通用智能的情况下，也有可能显著加剧这些风险因素。我们的主要贡献在于(非穷尽地)阐述潜在的AI风险因素及其间的因果关系，聚焦于AI如何影响权力动态与信息安全。该阐述表明，从AI系统到生存风险存在不预设假想未来AI能力的因果路径。
引用
@article{arxiv.2209.10604,
title = {Current and Near-Term AI as a Potential Existential Risk Factor},
author = {Benjamin S. Bucknall and Shiri Dori-Hacohen},
journal= {arXiv preprint arXiv:2209.10604},
year = {2022}
}