Forgotten-by-Design项目技术报告：面向机器学习的定向混淆
机器学习
2025-01-22 v1 人工智能
密码学与安全
摘要
隐私权在各种人权宣言中均有体现，但在人工智能时代面临新的挑战。本文探讨了AI系统中的被遗忘权概念，并将其与传统数据擦除方法进行对比。我们引入了Forgotten by Design，这是一种主动的隐私保护方法，在AI模型训练过程中集成实例特定的混淆技术。与事后修改模型的机器遗忘不同，我们的方法从一开始就防止敏感数据被嵌入。利用LIRA成员推理攻击，我们识别出脆弱数据点，并提出了结合加性梯度噪声和加权方案的防御措施。在CIFAR-10数据集上的实验表明，我们的技术将隐私风险降低了至少一个数量级，同时保持了模型准确率（在95%显著性水平下）。此外，我们提出了隐私-效用权衡的可视化方法，为平衡隐私风险和模型准确率提供了清晰的框架。本工作有助于开发与人类主动遗忘认知过程相一致的隐私保护AI系统，为保护敏感信息和确保符合隐私法规提供了稳健的框架。
引用
@article{arxiv.2501.11525,
title = {Technical Report for the Forgotten-by-Design Project: Targeted Obfuscation for Machine Learning},
author = {Rickard Brännvall and Laurynas Adomaitis and Olof Görnerup and Anass Sedrati},
journal= {arXiv preprint arXiv:2501.11525},
year = {2025}
}
备注
20 pages, 4 figures