PromptGraph：面向LLM推理中隐私与效用平衡的图引导提示净化
密码学与安全
2026-07-12 v1 人工智能
摘要
大语言模型（LLM）服务带来了根本性的隐私挑战。敏感信息不仅可以从姓名或电话号码等显式标识符中推断出来，还可以从原本无害的文本片段之间的上下文关联中推断出来。现有的净化器通常为单个文本片段分配隐私或效用信号，而没有显式建模它们之间的成对关系。在本文中，我们提出了PromptGraph，一种用于隐私保护LLM推理的图引导提示净化方法。PromptGraph在片段级别估计隐私泄露，并在片段对之间估计与效用相关的上下文依赖关系。它将每个提示表示为一个属性图，其中节点携带片段级别的隐私分数，边编码保留效用所需的上下文依赖关系。净化目标选择一个受保护的片段集，该集合在惩罚上下文依赖关系损失的同时最大化隐私增益。这种公式在隐藏上下文证据时显式地平衡了隐私和效用。受保护的片段在本地进行净化，返回的占位符仅在通过本地一致性检查后才恢复。我们进行了大量实验，表明PromptGraph比提示隐私基线在隐私和效用之间实现了更有利的平衡。
引用
@article{arxiv.2607.10709,
title = {PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference},
author = {Chen Gu and Hui Wan and Donghui Hu and Hui Wang and Zhuoer Gu},
journal= {arXiv preprint arXiv:2607.10709},
year = {2026}
}