(Ab)用条款：对生成式 AI 服务的分析

生成式 AI 服务如 ChatGPT 和 Gemini 是最快增长的消费服务之一。使用此类服务的个人必须在获得访问权限前接受其使用条款，并遵守这些条款以维持 continued 使用。既有的文献表明，尽管这些条款作为法律约束力的协议，实际上并不被良好地理解，且可能包含对消费者而言意外的含义。本文从欧盟基于消费者的视角分析 6 项生成式 AI 服务的使用条款。我们的发现基于我们在论文中提供的开发 codebook，重申了关于生成式 AI 服务的已知问题，例如默认使用用户数据进行训练，并揭示了关于责任、责任和权利的 new concerns。我们分析中的所有条款都包含 language 明确放弃对服务质量、可用性和适当性的 assurances，无论该服务是 free 还是付费。这些条款还使用户对输出符合提供者所规定的 norm 负有全部责任，尽管没有提供关于 model 功能的信息或控制，且以账户终止为风险。此外，这些条款还限制用户如何使用输出，而服务提供者则利用用户提供的 inputs 以及用户承担风险的 outputs for wide range of purposes at their discretion。这些做法的影响是严重的，我们发现消费者缺乏必要信息、权力严重不平衡，且承担着在不违反条款的情况下无法履行的责任。为缓解此情况，我们提出了具体建议，呼吁 authorities and policymakers 立即升级现有的 consumer protection mechanisms 以应对这一日益增长的问题。