无需事前修改的机器不可忘性评估：鲁棒性验证
密码学与安全
2024-10-15 v1
摘要
机器不可忘性是一种使预训练模型能够消除特定训练样本影响的过程,近年来受到广泛关注。尽管大量研究聚焦于开发高效不可忘策略,但不可忘验证这一关键方面却被大大忽视。现有验证方法主要依赖机器学习攻击技术,如成员推断攻击(MIA)或后门攻击。然而,这些方法并非为验证目的设计,鲁棒性有限,仅支持小规模、预定义的样本子集。此外,依赖MIA或后门攻击的事前样本级修改限制了其在机器学习即服务(MLaaS)环境中的适用性。为克服这些限制,本文提出一种无需任何事前修改的鲁棒性验证方案,可支持更大规模的验证。该方案采用基于优化的方法从模型中恢复实际训练样本。通过对恢复样本在不可忘前后的比较分析,MLaaS用户可验证不可忘过程。该验证方案仅通过模型参数操作,无需在模型训练前进行任何样本级修改,同时支持更大规模的验证并保持鲁棒性。通过理论分析和在不同场景下使用不同数据集中各种模型的实验,证明了所提方法的有效性。
引用
@article{arxiv.2410.10120,
title = {Evaluating of Machine Unlearning: Robustness Verification Without Prior Modifications},
author = {Heng Xu and Tianqing Zhu and Wanlei Zhou},
journal= {arXiv preprint arXiv:2410.10120},
year = {2024}
}