AI安全的困境
密码学与安全
2025-08-15 v1
摘要
在国际象棋中，困境描述一种情况，即任何移动都会恶化玩家的局面。组织当前面临类似的困境，位于人工智能（AI）与网络安全的交汇处。AI的采纳导致不可避免的悖论：延迟采用则存在战略风险，急于采用则引入难以理解的漏洞，甚至的渐进式采纳也导致级联复杂性。本文将这一挑战形式化为AI安全困境，一种security leaders必须在不可避免风险条件下做出决策的现象。基于博弈论、网络安全经济学和组织决策理论，我们通过三个关键属性来表征AI安全困境：强制移动、可预测的漏洞创建和时间压力。此外，我们发展了一套分类框架，用于归类AI采纳、实施、操作和治理情境中的强制移动情形，并提供相应的战略缓解措施。我们的框架得到实际决策流程图的支持，通过Copilot采纳的真实案例演示，从而展示了网络安全部总如何应对这一挑战。
引用
@article{arxiv.2502.06000,
title = {The AI Security Zugzwang},
author = {Lampis Alevizos},
journal= {arXiv preprint arXiv:2502.06000},
year = {2025}
}