CLEAR: 面向大语言模型应用的上下文感知隐私政策分析与风险生成
人机交互
2025-01-27 v3
摘要
大语言模型（LLM）驱动的端用户应用（包括对话界面和现有图形用户界面（GUI）的插件）的兴起带来了新的隐私挑战。然而，许多用户对这些风险并不了解。本文探讨了增加用户对 LLM 在端用户应用中隐私风险意识的方法。我们组织了五次共设计工作坊，洞察用户的隐私关注点及其对 LLM 中上下文隐私信息的需求。基于这些洞察，我们开发了 CLEAR（Contextual LLM-Empowered Privacy Policy Analysis and Risk Generation），即一种就在时（just-in-time）的上下文助手，旨在帮助用户识别敏感信息、总结相关隐私政策并在向 LLM 分享信息时指示潜在风险。我们在 ChatGPT 和 Gmail 中的 Gemini 插件两个示例领域评估了 CLEAR 的可用性和实用性。我们的发现表明，CLEAR 使用便捷，能提高用户对数据实践和隐私风险的理解。我们还讨论了 LLM 在提出和缓解隐私风险方面的双重性，提出设计和政策建议。
引用
@article{arxiv.2410.13387,
title = {CLEAR: Towards Contextual LLM-Empowered Privacy Policy Analysis and Risk Generation for Large Language Model Applications},
author = {Chaoran Chen and Daodao Zhou and Yanfang Ye and Toby Jia-jun Li and Yaxing Yao},
journal= {arXiv preprint arXiv:2410.13387},
year = {2025}
}