面向生产LLM安全与隐私的GLiNER Guard：统一编码器系列
密码学与安全
2026-05-08 v1
摘要
生产LLM系统需要在严格的延迟和成本约束下实现安全审查和个人身份信息(PII)检测。这形成了一种权衡：自回归审查器准确性高但昂贵，而轻量级编码器更快但能力较弱。我们提出GLiNER Guard(GLiGuard)，一个统一的编码器，单次前向传递即可执行安全分类和PII检测，简化了安全管道。我们引入三个变体：紧凑型单向和双向编码器(1.45-1.47B参数)，用于高吞吐量部署，以及GLiGuard Omni(2.09B参数)用于更强的审查质量。在单张A100上进行动态批处理，紧凑型模型可达到193请求/秒的吞吐量，P99延迟低于1秒，相较于GLiNER2实现1.6倍的吞吐量提升。Omni在公开安全基准测试中保持与更大审查器的竞争力。我们还发布了PII-Bench，这是一个用于评估端到端管道中PII检测的片段级别基准测试。总体而言，编码器级防护门槛为始终运行的审查提供了实用的低成本替代方案。模型和基准测试已在HuggingFace上发布。
引用
@article{arxiv.2605.05277,
title = {GLiNER Guard: Unified Encoder Family for Production LLM Safety and Privacy},
author = {Bogdan Minko and Sabrina Sadiekh and Evgeniy Kokuykin},
journal= {arXiv preprint arXiv:2605.05277},
year = {2026}
}
备注
Models: https://huggingface.co/collections/hivetrace/gliner-guard-v1 PII-Bench: https://huggingface.co/datasets/hivetrace/pii-bench