MLaaS中的私有训练集审查
机器学习
2023-05-17 v1 计算机与社会
数据库
摘要
机器学习即服务(MLaaS)是一种流行的基于云的解决方案，面向那些旨在使用ML模型但缺乏训练数据、计算资源或ML专业知识的客户。在这种情况下，训练数据集通常是ML或数据公司的私有财产且客户无法访问，但客户仍需要一种方法来确认训练数据集符合其期望并满足诸如公平性之类的监管措施。然而，现有工作均未解决上述客户关切。本工作是解决该问题的首次尝试，以数据来源为切入点。我们首先定义来源成员关系度量，并基于此进一步定义多样性和公平性度量以应对客户关切。然后我们提出一种策略，结合成员推断中的影子训练技术和多示例学习中的高效特征化方案，来估计不可访问训练数据集中这两个度量的值。评估包含一个基于语言BERT模型的文本评论极性分类应用。实验结果表明，我们的解决方案在成员审查上可达0.87准确率，在审查多样性和公平性分布上可达99.3%置信度。
引用
@article{arxiv.2305.09058,
title = {Private Training Set Inspection in MLaaS},
author = {Mingxue Xu and Tongtong Xu and Po-Yu Chen},
journal= {arXiv preprint arXiv:2305.09058},
year = {2023}
}