FedQAS：基于联邦学习的隐私保护机器阅读理解
计算与语言
2022-02-11 v1 人工智能
机器学习
摘要
文本数据的机器阅读理解（MRC）是自然语言理解中的一项重要任务。这是一个复杂的 NLP 问题，随着斯坦福问答数据集（SQuAD）和对话式问答（CoQA）的发布，相关研究层出不穷。它被视为一项努力，旨在教会计算机如何“理解”一段文本，然后能够使用深度学习回答关于该文本的问题。然而，到目前为止，这项 NLP 任务一直缺乏对私有文本数据的大规模训练和知识共享。因此，我们提出了 FedQAS，一个保护隐私的机器阅读系统，能够利用大规模私有数据，而无需将这些数据集汇集到一个中心位置。所提出的方法结合了 Transformer 模型和联邦学习技术。该系统使用 FEDn 框架开发，并作为一个概念验证联盟倡议进行部署。FedQAS 灵活、语言无关，并允许直观地参与和执行本地模型训练。此外，我们展示了该系统的架构和实现，并提供了一个基于 SQUAD 数据集的参考评估，以展示它如何克服数据隐私问题，并在联邦学习设置中实现联盟成员之间的知识共享。
引用
@article{arxiv.2202.04742,
title = {FedQAS: Privacy-aware machine reading comprehension with federated learning},
author = {Addi Ait-Mlouk and Sadi Alawadi and Salman Toor and Andreas Hellander},
journal= {arXiv preprint arXiv:2202.04742},
year = {2022}
}