基于果蝇群落的联邦最近邻分类:附补充材料
机器学习
2021-12-15 v1
摘要
果蝇嗅觉回路中神经机制作为局部敏感哈希(Flyhash)和布隆过滤器(FBF)的数学形式化最近被提出,并被“重编程”用于各种机器学习任务,如相似性搜索、离群点检测和文本嵌入。我们提出对该哈希和布隆过滤器的新型重编程,以在具有挑战性的联邦学习(FL)设置中模拟标准最近邻分类器(NNC),其中训练和测试数据分布在各方且任何数据不能离开其各自方。具体而言,我们利用 Flyhash 和 FBF 创建 FlyNN 分类器,并从理论上建立 FlyNN 匹配 NNC 的条件。我们展示了 FlyNN 如何在低通信开销的 FL 设置中精确训练以产生 FlyNNFL,以及它如何满足差分隐私。实证上,我们证明 (i) FlyNN 在 70 个 OpenML 数据集上匹配 NNC 准确率,(ii) FlyNNFL 训练具有高度可扩展性且通信开销低,在 方时提供高达 的加速。
引用
@article{arxiv.2112.07157,
title = {Federated Nearest Neighbor Classification with a Colony of Fruit-Flies: With Supplement},
author = {Parikshit Ram and Kaushik Sinha},
journal= {arXiv preprint arXiv:2112.07157},
year = {2021}
}
备注
A extended version of the original paper with detailed supplementary materials (21 pages, 17 figures)