基于差分隐私与联邦学习的隐私保护金融文本分类
计算与语言
2021-10-06 v1 密码学与安全
摘要
考虑到金融领域的数据高度机密且敏感，隐私十分重要。自然语言处理（NLP）技术可应用于金融领域的文本分类与实体检测，例如客户反馈情感分析、发票实体检测、按类型对金融文档进行分类等。由于此类数据的敏感性，在处理和用此类数据训练大型模型时需采取隐私措施。本工作中，我们提出一种基于上下文Transformer（BERT和RoBERTa）的文本分类模型，并集成了差分隐私（DP）与联邦学习（FL）等隐私特性。我们展示了如何私有地训练NLP模型及理想的隐私-效用权衡，并在Financial Phrase Bank数据集上进行了评估。
引用
@article{arxiv.2110.01643,
title = {Privacy enabled Financial Text Classification using Differential Privacy and Federated Learning},
author = {Priyam Basu and Tiasa Singha Roy and Rakshit Naidu and Zumrut Muftuoglu},
journal= {arXiv preprint arXiv:2110.01643},
year = {2021}
}
备注
4 pages. Accepted at ECONLP-EMNLP'21