面向儿童的大语言模型应用隐私设计框架
人工智能
2026-02-20 v1
摘要
儿童正在增加使用由人工智能 (AI) 提供动力的技术，然而关于儿童隐私风险的担忧正在增长。尽管现有隐私法规要求公司和组织实施保护，但实际操作中这可能具有挑战性。为此，本文提出一种基于隐私设计 (Privacy-by-Design, PbD) 的框架，指导设计者和开发者采取积极且谨慎的技术设计方法。我们的框架包括来自多个隐私法规的原则，如欧盟的通用数据保护条例 (GDPR)、加拿大的个人信息保护和电子文件法 (PIPEDA) 以及美国的儿童在线隐私保护法 (COPPA)。我们将这些原则映射到使用大语言模型 (LLM) 的应用程序的各个阶段，包括数据收集、模型训练、运行时监控和持续验证。在每个阶段，我们讨论了来自近期学术文献中所发现的运营控制，以帮助 AI 服务提供商和开发者在满足法律标准的同时减少隐私风险。此外，本框架包括针对儿童的设计准则，源自联合国儿童权利公约 (UNCRC)、英国的年龄适当设计代码 (AADC) 以及近期学术研究。为演示本框架在实际中的应用，我们呈现了一个针对 13 岁以下儿童的 LLM-based 教育导师的案例研究。通过我们的分析和案例研究，我们表明，通过采用技术和组织控制措施，并在 LLM 生命周期各阶段做出年龄适当的设计决策，我们能够支持开发符合法律要求、提供隐私保护的面向儿童的 AI 应用程序。
引用
@article{arxiv.2602.17418,
title = {A Privacy by Design Framework for Large Language Model-Based Applications for Children},
author = {Diana Addae and Diana Rogachova and Nafiseh Kahani and Masoud Barati and Michael Christensen and Chen Zhou},
journal= {arXiv preprint arXiv:2602.17418},
year = {2026}
}