中文

基于果蝇群落的联邦最近邻分类:附补充材料

机器学习 2021-12-15 v1

摘要

果蝇嗅觉回路中神经机制作为局部敏感哈希(Flyhash)和布隆过滤器(FBF)的数学形式化最近被提出,并被“重编程”用于各种机器学习任务,如相似性搜索、离群点检测和文本嵌入。我们提出对该哈希和布隆过滤器的新型重编程,以在具有挑战性的联邦学习(FL)设置中模拟标准最近邻分类器(NNC),其中训练和测试数据分布在各方且任何数据不能离开其各自方。具体而言,我们利用 Flyhash 和 FBF 创建 FlyNN 分类器,并从理论上建立 FlyNN 匹配 NNC 的条件。我们展示了 FlyNN 如何在低通信开销的 FL 设置中精确训练以产生 FlyNNFL,以及它如何满足差分隐私。实证上,我们证明 (i) FlyNN 在 70 个 OpenML 数据集上匹配 NNC 准确率,(ii) FlyNNFL 训练具有高度可扩展性且通信开销低,在 1616 方时提供高达 8×8\times 的加速。

关键词

引用

@article{arxiv.2112.07157,
  title  = {Federated Nearest Neighbor Classification with a Colony of Fruit-Flies: With Supplement},
  author = {Parikshit Ram and Kaushik Sinha},
  journal= {arXiv preprint arXiv:2112.07157},
  year   = {2021}
}

备注

A extended version of the original paper with detailed supplementary materials (21 pages, 17 figures)