智能体安全 meets 监管现实:受监管金融系统中自主智能体威胁与控制的从业者系统化梳理
计算机与社会
2026-06-28 v1 软件工程
摘要
大语言模型智能体正在进入受监管的金融系统,然而刻画其攻击面的安全文献几乎完全基于实验室环境,且关于受监管部署的从业者指导既未经过同行评审,也未与正式的威胁模型相关联。我们基于生产经验弥合了这两者。我们将六类已确立的智能体威胁类别(即提示注入、身份与授权、操作可审计性、工具滥用、数据驻留和边界策略执行)映射到美国和欧盟金融监管(ECOA 和 Regulation B、欧盟 AI 法案、GDPR 第 22 条以及 FINRA 2026 年智能体指南)所施加的具体控制义务上,展示了相较于不受监管的部署,法律问责如何放大每一项威胁。随后,我们记录了来自消费信贷产品 Know Your Customer 生产部署的四种架构模式(A2A 合规编排、面向审计的 grounded-RAG、案例 ID 传播和推理边界脱敏代理),这些模式将多日的人工流程转变为约五分之四案例的当日自动解决。最后,我们报告了三个负面结果,包括两项仅由内部审计发现的控制失败,以及一批自动处理流水线无法服务的合法申请人。我们得出结论,在监管下保护智能体与其说是关于新型攻击类别,不如说是关于在生产规模上实现可审计性、最小权限授权和边界策略执行——这些要求当前的智能体框架留给了部署工程师来解决。
引用
@article{arxiv.2606.29142,
title = {Agent Security Meets Regulatory Reality -- A Practitioner Systematization of Autonomous-Agent Threats and Controls in Regulated Financial Systems},
author = {Krishna Mohan and Guda Nagavenkata Srinivasa},
journal= {arXiv preprint arXiv:2606.29142},
year = {2026}
}