破解 Aegis：基于对抗性 LLM 的游戏用于提升隐私保护漏洞意识
人机交互
2025-05-23 v1
摘要
传统的隐私保护意识提升方法往往无法有效吸引用户，或无法提供对隐私漏洞被利用方式的实操性洞察。为此，我们在基于对话的严肃游戏 Cracking Aegis 的设计中引入了对抗性机制。利用 LLM 模拟自然交互，游戏挑战玩家扮演角色，从 AI agent Aegis 中提取敏感信息。用户研究（n=22）显示，玩家采用多样的欺骗语言策略，包括讲故事和建立情感信任，来操纵 Aegis。游戏结束后，玩家报告称他们将游戏中的情景与现实中的隐私漏洞（如钓鱼和冒充）建立了关联，并表达了加强隐私控制的意愿，如避免与 AI 系统过度分享个人信息。本工作凸显了 LLM 在严肃游戏中模拟复杂关系互动的潜力，同时展示了对抗性游戏策略为社会善益设计（尤其是隐私保护）提供了独特见解。
引用
@article{arxiv.2505.16954,
title = {Cracking Aegis: An Adversarial LLM-based Game for Raising Awareness of Vulnerabilities in Privacy Protection},
author = {Jiaying Fu and Yiyang Lu and Zehua Yang and Fiona Nah and RAY LC},
journal= {arXiv preprint arXiv:2505.16954},
year = {2025}
}
备注
24 pages, In Designing Interactive Systems Conference (DIS 25)