用 AI 测量、建模并帮助人们在线自我披露中为隐私风险做出决策

在类似 Reddit 这样的匿名在线论坛中，用户往往清楚自我披露的好处（例如，我可以向理解其中的陌生人抱怨亲属），但隐私风险则更抽象（例如，我的伴侣能否判断这是我？）。先前的工作旨在开发自然语言处理（NLP）工具，帮助用户识别其文本中潜在的高风险自我披露，但这些工具都未为它们希望保护的用户进行设计和评估。缺乏这种评估，这些工具将受限于社会技术鸿沟：用户需要的是帮助他们做出明智决定的辅助工具，而非提醒他们完全避免自我披露的专制工具。为弥合这一鸿沟，我们对 N = 21 位 Reddit 用户进行了研究；我们让他们在两篇他们所撰写的帖子上使用最先进的 NLP 披露检测模型，并询问他们以了解模型帮助、不足之处以及如何改进以帮助他们做出更明智决定的方式。尽管该模型不够完美，用户对该模型持积极态度，并强调其用作帮助他们发现错误、让他们意识到自己意识到的风险以及鼓励自我反思的工具。然而，我们的工作也表明，为了实用和可用，支持隐私决策的 AI 必须考虑帖子背景、披露规范以及用户所经历的威胁模型，并提供帮助阐释检测到的风险的解释。