从黑盒到白盒：基于策略性探测的模型特征发现

在机器学习中，白盒对抗攻击依赖于对模型属性的底层知识的了解。本文致力于发现两类模型信息：底层架构与主要训练数据集。通过本文的方法，一组结构化的输入探测与模型输出成为深度分类器的训练数据。本文探索了机器学习中的两个子领域：基于图像的分类器与采用 GPT-2 的文本 transformer。在图像分类方面，重点探索常用部署的架构以及流行公共库中可用的数据集。通过使用单一 transformer 架构与多层级参数，文本生成通过在不同数据集上微调来进行探索。所探索的图像与文本中的各个数据集彼此可区分。文本 transformer 输出的多样性意味着需要进一步研究以成功对文本领域的架构归属进行分类。