AudAgent：AI 智能体隐私政策合规的自动化审计

AI 智能体能够自主执行任务，且通常在未经用户明确同意的情况下收集或披露用户的敏感本地数据，这引发了严重的隐私担忧。尽管 AI 智能体的隐私政策描述了其预期的数据处理实践，但关于运行时行为是否符合这些政策，其透明度与问责性仍然有限。为弥合这一差距，我们推出了 AudAgent，这是一种持续实时监控 AI 智能体数据处理实践并保障其符合既定隐私政策的工具。AudAgent 包含四个用于 AI 智能体自动化隐私审计的组件。(i) 策略形式化：一种新颖的跨 LLM 投票机制，确保将隐私政策高置信度地解析为形式化模型。(ii) 运行时标注：一种基于 Presidio 的轻量级分析器，可根据 AI 智能体的上下文和形式化的隐私政策模型检测敏感数据并标注数据处理实践。(iii) 合规审计：本体图与基于自动机的检查，将隐私政策模型与运行时标注相链接，实现即时合规验证。(iv) 用户界面：一种独立于基础设施的实现，可可视化 AI 智能体的实时执行轨迹以及检测到的隐私违规，提供用户友好的透明度与问责性。我们在基于主流框架构建的 AI 智能体上评估了 AudAgent，证明了其在检测和可视化隐私政策违规方面的有效性。使用 AudAgent，我们进一步发现许多隐私政策缺乏对高度敏感数据（如 SSN）的明确保护，滥用此类数据违反了法律要求；并且许多智能体（包括由 Claude、Gemini 和 DeepSeek 驱动的智能体）不会拒绝通过第三方工具处理此类数据。AudAgent 会主动拦截对此类数据的操作，覆盖智能体原有的隐私政策和行为。