Adanonymizer：在人类-大语言模型交互中可视化隐私与输出性能二元性
人机交互
2025-01-28 v2
摘要
当前的大语言模型（LLMs）无法支持用户在个体咨询期间精确平衡隐私保护与输出性能。我们引入 Adanonymizer，这是一种匿名化插件，允许用户通过可视化化的贸易曲线来控制这种平衡。一项调查（N=221）揭示了隐私悖论，用户尽管承认隐私风险，却频繁披露敏感信息。进一步地，研究表明隐私风险与模型输出性能并不显著相关，这凸显了可导航这种平衡的潜力。Adanonymizer 对隐私和效用评级按类型进行标准化，并根据用户偏好自动对敏感术语进行伪装，从而显著减少用户工作量。其 2D 色彩调色板界面可视化隐私-效用贸易，允许用户通过操作点来调整平衡。一项评估（N=36）将 Adanonymizer 与消除法和差分隐私技术进行比较，其中 Adanonymizer 在显著减少修改时间、实现更好的感知模型性能和整体用户偏好方面均表现出优势。
引用
@article{arxiv.2410.15044,
title = {Adanonymizer: Interactively Navigating and Balancing the Duality of Privacy and Output Performance in Human-LLM Interaction},
author = {Shuning Zhang and Xin Yi and Haobin Xing and Lyumanshan Ye and Yongquan Hu and Hewu Li},
journal= {arXiv preprint arXiv:2410.15044},
year = {2025}
}