标准基准失效 —— 金融领域 LLM 代理的风险优先审计
综合金融
2025-06-03 v2 人工智能
计算与语言
摘要
标准基准聚焦于大语言模型（LLM）代理在金融领域的性能，但几乎不涉及其是否安全可部署。我们主张：金融 LLM 代理应首先以其风险轮廓为主要评估依据，而非基于准确率等点估计指标。这会掩盖诸如虚构事实、陈旧数据以及对抗性提示操控等漏洞。我们提出三级议程：模型层面、工作流程层面和系统层面，对 LLM 代理在现实失效情形下的压力测试。为说明这一转变的紧迫性，我们对六个 API 接口模型和开放权重 LLM 代理在三个高影响力任务上进行审计，发现常规基准遗漏的隐藏弱点。我们建议研究者、实践者和监管者：在未来研究中审计风险感知指标、随数据集发布压力情景、将"安全预算"视为首要成功准则。只有重新定义"优秀"的内涵，社区才能负责任地推动 AI 驱动金融的发展。
引用
@article{arxiv.2502.15865,
title = {Standard Benchmarks Fail -- Auditing LLM Agents in Finance Must Prioritize Risk},
author = {Zichen Chen and Jiaao Chen and Jianda Chen and Misha Sra},
journal= {arXiv preprint arXiv:2502.15865},
year = {2025}
}
备注
46 pages, 2 figures, 2 tables