AI安全：必要但不充分且可能存在问题

本文批判性地审视了近期围绕AI安全的热潮。我们首先指出AI安全热潮的性质——主要由政府和企业主导，并将其与AI研究中其他旨在促进社会公益的路径进行对比。我们思考了“AI安全”的实际含义，并概述了AI安全的数字足迹所契合的主流概念。我们认为，AI安全与透明度及其他与社会公益相关的概念之间存在微妙而不安的关系，表明如果目标是在广义上实现社会公益，AI安全是一个不充分的概念。我们注意到，AI安全的辩论已经影响了一些AI领域的监管努力，其方向或许并不理想。我们还分享了我们的担忧，即AI安全可能通过为剥削性和有害的AI披上安全的外衣，使那些加剧结构性伤害的AI正常化。