走出差分隐私框架：基于语言模型提示的文本隐私化案例研究

隐私保护自然语言处理领域正日益受到关注，尤其是在大型语言模型日益普及的当下。近期文献中一致出现的一种解决方案是将差分隐私（DP）集成到NLP技术中。本文对这些方法进行批判性审视，讨论DP集成所带来的限制，同时揭示这些限制所伴随的挑战。为此，我们聚焦于DP-Prompt，这是一种利用语言模型对文本进行隐私化重写的最新方法。具体而言，我们在多种情境下探索这一重写任务，既有DP也有无DP的情况。为论及DP在NLP中可行性，我们进行了实用性和隐私性实验。我们的结果表明，需更多讨论DP在NLP中的可用性以及其相对于非DP方法的优势。