通过提示与上下文处理及LLM路由实现的隐私保护与令牌精简
密码学与安全
2026-04-01 v1 人工智能
摘要
大型语言模型(LLM)的大规模应用迫使我们在运营成本(OpEx)和数据隐私之间做出权衡。当前的路由框架降低了成本，但忽略了提示的敏感性，使用户和机构面临向第三方云提供商泄露风险。我们形式化了“不可分离性范式”：高级上下文管理本质上与隐私管理重合。我们提出了一个本地“隐私卫士”——一个由本地小型语言模型(SLM)驱动的整体上下文观察器——它执行抽象摘要和自动提示优化(APO)，将提示分解为聚焦的子任务，并将高风险查询重新路由到零信任或受NDA保护的模型。这种双重机制同时消除了敏感推理向量（零泄露）并减少了云令牌负载（运营成本降低）。一个基于LIFO的上下文压缩机制进一步限制了工作记忆，限制了新兴的泄露面。我们通过一个2x2基准测试（懒散用户vs.专家用户；个人秘密vs.机构秘密）在1000样本数据集上验证了该框架，实现了45%的综合运营成本降低，100%的个人秘密编辑成功率，并且通过LLM-as-a-Judge评估，APO压缩响应相比原始基线获得了85%的偏好率。我们的结果表明，令牌精简和零泄露是同一上下文压缩算子的数学对偶投影。
引用
@article{arxiv.2603.28972,
title = {Privacy Guard & Token Parsimony by Prompt and Context Handling and LLM Routing},
author = {Alessio Langiu},
journal= {arXiv preprint arXiv:2603.28972},
year = {2026}
}