LatentRefusal：用于不可答文本到SQL查询的潜在信号拒绝机制
人工智能
2026-04-15 v3
摘要
在基于大语言模型（LLM）的文本到SQL系统中，不可答或表述不完整的用户查询可能不仅生成错误的文本，还会生成可执行程序，导致误导性结果或违反安全约束，这构成了安全部署的主要障碍。现有的拒绝策略要么依赖输出层指令遵循，由于模型幻觉而脆弱，要么估计输出不确定性，增加复杂度和开销。为此，我们将安全拒绝在文本到SQL系统中形式化为答案可行性门控问题，提出LatentRefusal——一种从大语言模型中间隐藏激活预测查询可答性的潜在信号拒绝机制。我们引入Tri-Residual Gated Encoder—a轻量级探测架构，用于抑制模式噪声并放大表明不可答性的稀疏、局部的question-schema不匹配线索。广泛的实证评估涵盖多样化的模糊和不可答情境，以及消融研究和可解释性分析，证明了所提方法的有效性，表明LatentRefusal为文本到SQL系统提供了一个可附加且高效的安全层。在四个基准测试中，LatentRefusal将平均F1提升至88.5%，同时仅增加约2毫秒的探测开销。
引用
@article{arxiv.2601.10398,
title = {LatentRefusal: Latent-Signal Refusal for Unanswerable Text-to-SQL Queries},
author = {Xuancheng Ren and Shijing Hu and Zhihui Lu and Jiangqi Huang and Qiang Duan},
journal= {arXiv preprint arXiv:2601.10398},
year = {2026}
}