AI 驱动的自主武器威胁导致地缘政治不稳定并威胁 AI 研究

近期机器学习 (ML) 在自主武器系统 (AWS) 开发中的应用带来了对地缘政治稳定性和 AI 研究中思想自由交流的严重风险。这一话题近年来在超级智能人工通用人工智能 (AGI) 所带来的风险方面受到的关注相对较少，但其对技术发展路径的假设更少，因此是一个更贴近未来的议题。ML 已经在使 AWS 替代人类士兵在许多战场角色中发挥作用方面发挥作用，降低了人力成本，从而降低了政治上发动侵略战争的成本。在对等对手的情况下，这增加了“低强度”冲突升级为更广泛战争的可能性。在非对等对手的情况下，这降低了侵略战争的国内反弹。这种效应发生的前提是其他关于军事 AI 使用的伦理问题，如平民伤亡风险等，无需任何超人类 AI 能力。此外，AWS 的军事价值引发了 AI 动员武器竞赛的幻象，并对 AI 研究实施愚蠢的国家安全限制。我们在本文中致力于提高公众和 ML 研究者对完全或近乎完全自主军事技术所带来的近未来风险的 awareness，并提供监管建议以缓解这些风险。我们呼吁 AI 政策专家和防御 AI 社区特别关注在开发和部署 AWS 时保持透明度和谨慎，以避免我们在此处所述对全球稳定性和 AI 研究产生的负面影响。