大帮手还是大管家？审计生成式人工智能助手中的追踪、用户画像与个性化

生成式人工智能（GenAI）浏览器助手将GenAI的强大能力集成到网页浏览器中，以提供丰富的体验，如问答、内容摘要和智能导航。这些助手目前以浏览器扩展的形式存在，不仅可以追踪详细的浏览活动，如搜索和点击数据，还可以自主执行任务，如填写表单，这引发了重大的隐私问题。理解GenAI浏览器扩展的设计和运作至关重要，包括它们如何收集、存储、处理和共享用户数据。为此，我们研究了它们基于用户明确或推断的人口统计属性和兴趣进行用户画像和个性化响应的能力。我们进行了网络流量分析，并使用一种新颖的提示框架来审计十款最受欢迎的GenAI浏览器助手扩展的追踪、用户画像和个性化行为。我们发现，这些助手并非依赖本地浏览器模型，而是主要依赖服务器端API，这些API可以在没有明确用户交互的情况下自动调用。在被调用时，它们会收集并共享网页内容，通常是完整的HTML DOM，有时甚至包括用户在表单中输入的内容，与其第一方服务器共享。一些助手还会将标识符和用户提示与第三方追踪器（如Google Analytics）共享。即使网页包含敏感信息（如健康信息或在网页表单中输入的姓名或SSN等个人信息），数据的收集和共享仍在继续。我们发现，多款GenAI浏览器助手会推断年龄、性别、收入和兴趣等人口统计属性，并利用这一跨浏览上下文的用户画像来个性化响应。总之，我们的工作表明，GenAI浏览器助手确实可以收集个人和敏感信息用于用户画像和个性化，且几乎没有或完全没有保障措施。