RepV: 用于可扩展神经符号计划验证的安全可分离潜在空间
摘要
随着 AI 系统迁移到 safety-critical 领域，验证其行为是否符合 well-defined rules 仍然是一个挑战。Formal methods 提供可证明的保证，但要求 hand-crafted temporal-logic specifications，表达性有限且可访问性差。Deep learning 方法 enables 对 plans 针对 natural-language 约束进行评估，但其 opaque decision process 招致可能严重后果的误分类。我们引入 RepV，一种神经符号验证器，通过学习潜在空间将 safe 和 unsafe plans 线性可分离来统一两种观点。从 modest seed set 的 plans 开始由 off-the-shelf model checker 对其进行标记，RepV 训练一个 lightweight projector 将每个 plan 以及 language model 生成的 rationale 投影到 low-dimensional space；随后一个 frozen linear boundary 在 single forward pass 中验证 unseen natural-language rules 的合规性。除了 binary classification，RepV 还提供基于其在潜在空间中位置的正确验证概率保证。该保证 enables guarantee-driven planner 的 refinement，改进 rule compliance 而无需 human annotations。实验评估显示，RepV 在 baseline 方法之上将 compliance 预测准确率提高最高可达 15%，同时添加的参数不足 0.2M。此外，我们的 refinement framework 在 various planning 领域中超越 ordinary fine-tuning baseline。这些结果表明，safety-separable 潜在空间为可靠的神经符号 plan 验证提供了可扩展、即插即用的原语。代码和数据均可用于 https://repv-project.github.io/。
引用
@article{arxiv.2510.26935,
title = {RepV: Safety-Separable Latent Spaces for Scalable Neurosymbolic Plan Verification},
author = {Yunhao Yang and Neel P. Bhatt and Pranay Samineni and Rohan Siva and Zhanyang Wang and Ufuk Topcu},
journal= {arXiv preprint arXiv:2510.26935},
year = {2025}
}
备注
Code and data are available at: https://repv-project.github.io/