用于协作任务中隐私保护的神经网络权重组合学习
机器学习
2022-05-03 v1 人工智能
密码学与安全
摘要
我们提出 CoLN（Combined Learning of Neural network weights，神经网络权重组合学习），一种在不共享数据的情况下安全组合基于敏感数据的机器学习模型的新方法。使用 CoLN，本地主机采用相同的神经网络架构和基参数，仅使用本地可用数据训练模型。本地训练的模型随后提交给组合代理，由其生成组合模型。新模型的参数可发回各主机，并用作新一轮训练的初始化参数。CoLN 能够组合多种同类的分布式神经网络，且不限于任何单一神经架构。本文中我们详述了该组合算法，并给出了前馈、卷积和循环神经网络架构上的实验，表明 CoLN 组合模型的性能接近于使用本地数据集组合训练的假设理想集中式模型。CoLN 可助力如医疗领域所需的 secure 协作研究，其中隐私问题禁止数据共享，但本地数据的局限性又要求从更大数据集中获取信息。
引用
@article{arxiv.2205.00361,
title = {Combined Learning of Neural Network Weights for Privacy in Collaborative Tasks},
author = {Aline R. Ioste and Alan M. Durham and Marcelo Finger},
journal= {arXiv preprint arXiv:2205.00361},
year = {2022}
}