知识联邦：一种统一的分层隐私保护AI框架
密码学与安全
2020-05-25 v3 人工智能
机器学习
摘要
随着对数据隐私与安全的严格保护和监管，基于集中式数据集的传统机器学习面临重大挑战，使得人工智能（AI）在许多任务关键型和数据敏感场景（如金融、政府和医疗）中不切实际。与此同时，海量数据集分散于各行业的孤立孤岛、各类组织、组织内不同单位或国际组织的不同分支中。这些宝贵的数据资源远未得到充分利用。为推动AI理论与应用，我们提出一个综合框架（称为知识联邦——KF）以应对这些挑战，在保护数据隐私与所有权的前提下实现AI。超越联邦学习和安全多方计算的概念，KF由四个层次的联邦组成：（1）信息层，数据的底层统计与计算，满足简单查询、搜索和简易算子需求；（2）模型层，支持训练、学习与推理；（3）认知层，实现不同抽象层级与上下文的抽象特征表示；（4）知识层，融合知识发现、表示与推理。我们进一步厘清知识联邦与其他相关研究领域的关系与区别。我们已开发KF的参考实现，称为iBond平台，以提供生产级KF平台赋能金融、保险等领域的工业应用。iBond平台也将助力建立KF社区与综合生态系统，并引领朝向安全、隐私保护和负责任AI的新范式转变。据我们所知，知识联邦是首个用于安全多方计算与学习的分层统一框架。
引用
@article{arxiv.2002.01647,
title = {Knowledge Federation: A Unified and Hierarchical Privacy-Preserving AI Framework},
author = {Hongyu Li and Dan Meng and Hong Wang and Xiaolin Li},
journal= {arXiv preprint arXiv:2002.01647},
year = {2020}
}