Urania：面向 AI 使用的差分隐私洞察

我们提出 $Urania$，一个为生成关于 LLM 聊天机器人交互的洞察提供具有严格差分隐私保证的框架。该框架采用私有聚类机制和创新的关键词提取方法，包括基于频率、TF-IDF 基于和 LLM 指导的方法。通过利用诸如聚类、分区选择和基于直方图的汇总等 DP 工具，$Urania$ 提供端到端的隐私保护。我们的评估 assesses 词汇和语义内容保留情况、配对相似性以及 LLM 基于指标，基准测试于一个非私有 Clio 启发式管道（Tamkin 等，2024）。此外，我们开发了一个简单的经验隐私评估，表明我们的 DP 管道在隐私方面具有更强的韧性。结果显示，该框架能够在保持严格用户隐私的同时，从对话中提取有意义的洞察，有效平衡数据实用性与隐私保护。