保护社会免受 AI 滥用：何时应对能力施加限制？

随着人工智能（AI）系统能力增强，它们将越来越多地被用于造成伤害。事实上，AI 系统已经开始被用于自动化欺诈活动、侵犯人权、制造有害虚假图像以及识别危险毒素。为防止某些 AI 滥用，我们认为有必要对特定能力进行针对性干预。这些限制可能包括控制谁能访问某些类型的 AI 模型、它们可被用于什么目的、输出是否被过滤或可追溯至其用户，以及开发所需资源。我们还主张，需要对造成伤害所需的某些非 AI 能力进行限制。尽管能力限制面临减少正常使用多于滥用的风险（面临不利的滥用-使用权衡），我们认为当其他干预不足、滥用潜在危害高且存在针对性干预能力的方式时，对能力的干预是合理的。我们提供了一种可减少 AI 滥用的干预分类法，聚焦于滥用造成伤害所需的具体步骤（滥用链），以及判断干预是否合理的框架。我们将此推理应用于三个例子：预测新型毒素、制造有害图像和自动化鱼叉式钓鱼活动。