金融 LLM 代理的内联生命周期安全 harness
计算与语言
2026-05-27 v1
摘要
金融 LLM 代理必须同时阻止提示诱导的未授权行动并批准合法的多步骤业务工作流程。然而，边界过滤器常常漏掉不可逆的中期工具调用，而事后 LLM 评估仅在终止后进行——为时太晚且计算成本随轨迹长度线性增长。我们提出 FinHarness，一个包裹金融代理端到端的内联安全 harness，包含三个组件：Query Monitor 融合单轮意图与跨轮漂移的意图，Tool Monitor 评估每个拟议工具调用，Cascade 模块整合每个步骤的风险并自适应地在轻量级和高级级 LLM 评估之间路由。触发的风险因素被重新注入代理输入作为先验证据，使代理能够拒绝、重新规划或自行批准。在 FinVault 上，路由 FinHarness 将 ASR 从 38.3% 降至 15.0%，同时基本保持良好批准 ()，且使用 较少的高级评估调用相对于总是高级的 ablation。
引用
@article{arxiv.2605.27333,
title = {FinHarness: An Inline Lifecycle Safety Harness for Finance LLM Agents},
author = {Haoxuan Jia and Yang Liu and Bin Chong and Yingguang Yang and Yancheng Chen and Jiayu Liang and Qian Li and Hanning Lu and Kefu Xu and Hao Zheng and Chongyang Zhang and Hao Peng and Philip S. Yu},
journal= {arXiv preprint arXiv:2605.27333},
year = {2026}
}