智能体化监管器：AI在金融领域的风险及一种基于智能体的治理框架
计算机与社会
2025-12-16 v1 人工智能
计算工程、金融与科学
多智能体系统
综合金融
摘要
生成式和智能体化人工智能进入金融市场的速度超过了现有治理体系的适应能力。当前模型风险框架假设静态的、定义明确的算法和一次性验证；大型语言模型和多智能体交易系统通过持续学习、交换潜在信号和展现涌现行为违反了这些假设。借鉴复杂适应系统理论，我们将这些技术建模为去中心化集合，其风险沿多个时间尺度传播。然后我们提出了一种模块化治理架构。该框架将监督分解为四个"监管块"层：(i) 嵌入每个模型旁的自监管模块，(ii) 聚合本地遥测数据并执行策略的企业级治理块，(iii) 监控行业范围指标以发现共谋或破坏性模式的监管者托管智能体，以及(iv) 提供第三方保证的独立审计块。八种设计策略使这些块能够与其监管的模型一样快速演进。一个关于多智能体交易中涌现性幌骗的案例研究展示了分层控制如何在实时隔离有害行为的同时保留创新。该架构与当前的模型风险规则保持兼容，同时弥合了关键的观测性和控制缺口，为金融系统中弹性、自适应的AI治理提供了切实可行的路径。
引用
@article{arxiv.2512.11933,
title = {The Agentic Regulator: Risks for AI in Finance and a Proposed Agent-based Framework for Governance},
author = {Eren Kurshan and Tucker Balch and David Byrd},
journal= {arXiv preprint arXiv:2512.11933},
year = {2025}
}