分布式自主在线学习：遗憾与内在隐私保护特性
机器学习
2011-02-07 v3 人工智能
摘要
在线学习在处理海量数据方面变得越来越流行。然而，在线学习的顺序特性要求集中式学习器存储数据和更新参数。在本文中，我们考虑具有分布式数据源的在线学习。自主学习器基于本地数据源更新本地参数，并定期与通信网络中的一小部分邻居交换信息。我们推导了强凸函数的遗憾界，推广了Ram等人（2010年）关于凸函数的工作。最重要的是，我们证明了我们的算法具有内在的隐私保护特性，并证明了网络中隐私保护的充分必要条件。这些条件意味着，对于连通度大于一的网络，恶意学习器无法重构其他学习器的次梯度（以及敏感原始数据），这使得我们的算法在隐私敏感的应用中具有吸引力。
引用
@article{arxiv.1006.4039,
title = {Distributed Autonomous Online Learning: Regrets and Intrinsic Privacy-Preserving Properties},
author = {Feng Yan and Shreyas Sundaram and S. V. N. Vishwanathan and Yuan Qi},
journal= {arXiv preprint arXiv:1006.4039},
year = {2011}
}
备注
25 pages, 2 figures