元学习中的隐私挑战：对模型无关元学习的研究
机器学习
2024-06-05 v1 密码学与安全
摘要
元学习涉及多个学习器，每个学习器专注于特定任务，在数据受限的环境中协作。在当前的元学习方法中，任务学习器从敏感数据（称为支持集）中本地学习模型。这些任务学习器随后使用数据的另一部分（称为查询集）计算与模型相关的信息（例如梯度或损失值），并与元学习器共享。元学习器利用这些信息来更新其元知识。尽管没有显式的数据共享，隐私问题仍然存在。本文考察了一种著名元学习算法——具体来说是模型无关元学习（MAML）——中潜在的数据泄露。在 MAML 中，梯度在元学习器和任务学习器之间共享。主要目标是仔细审查梯度及其包含的关于任务数据集的信息。随后，我们尝试提出针对包含支持集和查询集的任务数据集的成员推断攻击。最后，我们探索了旨在保护任务数据隐私并阻止潜在攻击的各种噪声注入方法。实验结果表明了这些攻击对 MAML 的有效性，以及适当的噪声注入方法在对抗这些攻击方面的有效性。
引用
@article{arxiv.2406.00249,
title = {Privacy Challenges in Meta-Learning: An Investigation on Model-Agnostic Meta-Learning},
author = {Mina Rafiei and Mohammadmahdi Maheri and Hamid R. Rabiee},
journal= {arXiv preprint arXiv:2406.00249},
year = {2024}
}