取证调查中寻找机器学习黑盒的有意义分布
机器学习
2023-05-11 v1 计算机视觉与模式识别
摘要
给定一个文档匮乏的神经网络模型，我们从一个取证调查者的视角出发，希望查明该模型的数据域（例如是人脸图像还是交通标志）。尽管成员推断和模型反演等现有方法可用于揭示未知模型的某些信息，但它们仍需要先验的数据域知识才能着手。本文提出利用如ImageNet这样的综合语料库，来选择一个接近原始训练分布且能在后续调查中带来高性能的有意义分布。该语料库由两部分组成：一个大规模样本数据集，以及诸如层次结构和样本文本信息的元信息。我们的目标是从语料库中为给定模型选出一组样本。方法的核心是一个目标函数，它考量所选样本的两个准则：模型功能属性（由数据集得出）与语义（由元数据得出）。我们还给出了一个算法，可依据该目标函数高效搜索所有可能子集的巨大空间。实验结果表明所提方法有效。例如，使用Caltech 101克隆一个给定模型（原用CIFAR-10训练）可达到45.5%的准确率；而使用我们方法选出的数据集，准确率提升至72.0%。
引用
@article{arxiv.2305.05869,
title = {Finding Meaningful Distributions of ML Black-boxes under Forensic Investigation},
author = {Jiyi Zhang and Han Fang and Hwee Kuan Lee and Ee-Chien Chang},
journal= {arXiv preprint arXiv:2305.05869},
year = {2023}
}