PPMI：基于Socratic链式思考推理与同态加密向量数据库的隐私保护LLM交互
密码学与安全
2025-11-04 v3 人工智能
摘要
大型语言模型（LLM）正日益被用作个人智能体，访问包含日历、邮件和医疗记录等敏感用户数据的远程数据库。当前，用户面临权衡：他们可以将许多存储在远程数据库中的私人记录发送给强大但不可信的LLM提供商，增加暴露风险；或在受信任设备上运行功能较弱的模型。我们弥合了这一鸿沟。我们的Socratic链式思考推理首先向强大但不可信的LLM发送通用、非私人用户查询，该模型在不访问用户数据的情况下生成链式思考（CoT）提示和详细子查询。接着，我们对这些子查询进行嵌入，并使用我们基于同态加密的向量数据库进行加密子秒级语义搜索，这涵盖来自单个用户私有数据的100万条记录。这代表了真实世界中基于数十年数字活动积累的个人文档、邮件和记录的规模。最后，我们将CoT提示和解密后的记录输入本地语言模型，生成最终响应。在LoCoMo长上下文QA基准测试中，我们的混合框架将GPT-4o与本地Llama-3.2-1B模型组合，相较于仅使用GPT-4o提升了最高可达7.1个百分点。这为将任务分解并在不可信的强LLM和弱的本地模型之间划分，实现用户隐私保护的系统奠定了第一步。
引用
@article{arxiv.2506.17336,
title = {PPMI: Privacy-Preserving LLM Interaction with Socratic Chain-of-Thought Reasoning and Homomorphically Encrypted Vector Databases},
author = {Yubeen Bae and Minchan Kim and Jaejin Lee and Sangbum Kim and Jaehyung Kim and Yejin Choi and Niloofar Mireshghallah},
journal= {arXiv preprint arXiv:2506.17336},
year = {2025}
}
备注
29 pages