平衡是关键:私有中位数分割产生高效用随机树
机器学习
2021-02-23 v2 机器学习
摘要
随机森林因其多功能性而成为分类与回归的流行方法。然而,这种灵活性可能以用户隐私为代价,因为训练随机森林需要多次数据查询,且常针对训练数据中可识别的小子集。对这些查询进行私有化通常带来高昂的效用代价,很大程度上是因为我们对数据的小子集进行查询私有化,而这些子集容易被加入的噪声破坏。本文中,我们提出 DiPriMe 森林,一种用于差分隐私回归与分类的新型基于树的集成方法,适用于实数或类别协变量。我们使用差分隐私版的中位数生成分割,从而鼓励平衡的叶节点。通过避免低占用率的叶节点,我们在私有化叶节点充分统计量时避免了高信噪比。我们从理论与实验上表明,所得算法在确保差分隐私的同时展现出高效用。
引用
@article{arxiv.2006.08795,
title = {Balance is key: Private median splits yield high-utility random trees},
author = {Shorya Consul and Sinead A. Williamson},
journal= {arXiv preprint arXiv:2006.08795},
year = {2021}
}
备注
17 pages