面向 AI 代理的安全、隐私与监管视角：从概念界定到规定与反思
密码学与安全
2026-03-20 v1 人工智能
计算机与社会
摘要
人工智能（AI）技术的快速普及导致监管格局不断变化，立法框架试图跟上技术进步。随着 AI 范式向更高的自主性发展，特别是以 agentic AI 形式出现，精准阐述监管规定越来越具挑战性。在安全和隐私领域，这一挑战更为严峻，因为自主代理的能力常常模糊了传统的法律和技术边界。本文通过分析 2024-2025 年间 24 份相关文件，审阅欧盟 AI 监管规定的演变。我们提供关键概念的澄清，构建了安全、隐私和 agentic AI 的监管解释，区分其与 closely related 概念以消除歧义。我们综合所审阅的文件，阐述针对不同类型的 AI，特别是涉及安全和隐私方面的监管规定的当前状态。我们分析并反思现有规定在监管维度上的表现，以更好地将安全和隐私义务与 AI 和 agentic 行为对齐。这些见解旨在为政策制定者、开发者和研究者提供指导，帮助其在算法日益增强的主导力下，实现合规与 AI 治理。
关键词
引用
@article{arxiv.2603.18914,
title = {Security, privacy, and agentic AI in a regulatory view: From definitions and distinctions to provisions and reflections},
author = {Shiliang Zhang and Sabita Maharjan},
journal= {arXiv preprint arXiv:2603.18914},
year = {2026}
}
备注
Accepted by 2026 Governing Agentic AI Symposium