法律零日：面向先进AI系统的新型风险向量

我们提出了“法律零日”（Legal Zero-Days）的概念，作为先进AI系统的新型风险向量。法律零日是法律框架中先前未发现的漏洞，当被利用时，可在无需诉讼或其他程序影响前造成即时且显著的社会 disrupt。我们提出了识别和评估这些漏洞的风险模型，展示其潜在的能力以规避监控或阻碍政府对AI事件的响应。以2017年澳大利亚双国籍危机为案例研究，阐明了看似微小的法律疏漏如何导致大规模的治理 disrupt。我们发展了创建“法律拼图”作为评估工具，以评估AI系统发现此类漏洞的能力。我们的发现表明，当前的AI模型可能不可靠地发现具有影响力的法律零日，但未来的系统可能具备此类能力，这既是风险也是改进法律鲁棒性的机会。该工作为识别和缓解前沿AI系统的此前未识别的风险做出了贡献。