REaaS：通过鲁棒编码器即服务实现对抗鲁棒的下游分类器
密码学与安全
2023-01-10 v1 机器学习
摘要
编码器即服务（Encoder as a Service）是一种新兴的云服务。具体而言，服务提供商首先通过有监督学习或自监督学习预训练一个编码器（即通用特征提取器），然后将其部署为云服务 API。客户端在训练/测试其分类器（称为下游分类器）时，查询云服务 API 以获取其训练/测试输入的特征向量。下游分类器易受对抗样本攻击，对抗样本是带有精心制作的扰动、使下游分类器误分类的测试输入。因此，在安全和安保关键应用中，客户端旨在构建鲁棒的下游分类器并证明其针对对抗样本的鲁棒性保证。云服务提供何种 API，才能使客户端能使用任意认证方法证明其下游分类器针对对抗样本的鲁棒性，同时将向 API 的查询次数降至最少？服务提供商应如何预训练编码器，使客户端能构建具有更高可证明鲁棒性的下游分类器？我们旨在在本工作中回答这两个问题。对于第一个问题，我们表明云服务只需提供两个我们精心设计的 API，即可使客户端以最少 API 查询次数证明其下游分类器的鲁棒性。对于第二个问题，我们表明使用谱范数正则化项预训练的编码器使客户端能构建更鲁棒的下游分类器。
引用
@article{arxiv.2301.02905,
title = {REaaS: Enabling Adversarially Robust Downstream Classifiers via Robust Encoder as a Service},
author = {Wenjie Qu and Jinyuan Jia and Neil Zhenqiang Gong},
journal= {arXiv preprint arXiv:2301.02905},
year = {2023}
}
备注
To appear in Network and Distributed System Security (NDSS) Symposium, 2023