TruVRF：面向机器遗忘的三层粒度验证
机器学习
2024-08-13 v1 密码学与安全
摘要
被遗忘权的概念引发了对机器遗忘日益增长的兴趣，但可靠的验证方法仍然缺乏，这为不诚实的模型提供者误导数据贡献者创造了机会。传统的侵入性方法（如后门注入）对历史数据不可行。为解决这一问题，我们提出了 TruVRF，一个在类别、数量和样本三个粒度上运行的非侵入性遗忘验证框架。TruVRF 包含三种用于检测不同类型不诚实服务器的遗忘度量指标：忽略型（Neglecting）、懒惰型（Lazy）和欺骗型（Deceiving）。遗忘度量 I 检查类别对齐，遗忘度量 II 验证样本数量，遗忘度量 III 确认特定样本的删除。在三个数据集上的评估显示 TruVRF 具有稳健的性能，度量 I 和 III 的准确率超过 90%，度量 II 的推理偏差为 4.8% 至 8.2%。TruVRF 还展示了在不同条件以及 SISA 和 Amnesiac Unlearning 等最先进的遗忘框架下的泛化性和实用性。
引用
@article{arxiv.2408.06063,
title = {TruVRF: Towards Triple-Granularity Verification on Machine Unlearning},
author = {Chunyi Zhou and Anmin Fu and Zhiyang Dai},
journal= {arXiv preprint arXiv:2408.06063},
year = {2024}
}