解策器辅助工具增强型大语言模型代理的策略合规性验证
摘要
工具增强型大语言模型（TaLLMs）扩展了大语言模型的能力，以调用外部工具，使其能够与真实环境交互。然而，deploying TaLLMs in sensitive applications such as customer service and business process automation 的一个主要限制是缺乏对 domain-specific operational policies regarding tool-use and agent behavior 的 reliable compliance。当前的方法仅通过包括 policy descriptions in the LLM context 来引导 LLMs 遵守 policy，但这些方法没有保证会防止 policy violations。在本文中，我们引入了一个 SMT solver-aided framework 来 enforce tool-use policy compliance in TaLLM agents。具体来说，我们使用 LLM-assisted, human-guided approach 将自然语言指定的 tool-use policies 翻译成对 agent-observable state and tool arguments 的 formal logic（SMT-LIB-2.0）constraints。At runtime，planned tool calls 被截获并通过 Z3 solver 检查这些 constraints 作为 tool call 的 pre-condition。违反 policy 的 tool invocations 被阻止。我们在 TauBench benchmark 上进行评估， demonstrate 了 solver-aided policy checking 减少了 policy violations 同时 maintain 了 overall task accuracy。这些结果表明，integrating formal reasoning into TaLLM execution 可以 improve tool-call policy compliance and overall reliability。
引用
@article{arxiv.2603.20449,
title = {Solver-Aided Verification of Policy Compliance in Tool-Augmented LLM Agents},
author = {Cailin Winston and Claris Winston and René Just},
journal= {arXiv preprint arXiv:2603.20449},
year = {2026}
}