联邦情感分类的初步探索
计算与语言
2022-04-01 v2 机器学习
摘要
自动挖掘自然语言中包含的情感倾向是一些人工智能应用的基础研究,其解决方案与挑战交替出现。迁移学习和多任务学习技术已被用来缓解监督稀疏性并相应地协作多个异构领域。近年来,用户私有数据的敏感性给情感分类带来了另一挑战,即数据隐私保护。在本文中,我们借助联邦学习,在语料必须存储在去中心化设备上的约束下,进行多领域情感分类。考虑到多方之间语义的异构性以及词嵌入的特殊性,我们有针对性地提供了相应解决方案。首先,我们提出知识迁移增强的私有-共享(KT EPS)框架,以在联邦情感分类中实现更好的模型聚合与个性化。其次,我们提出 KTEPS,考虑到词向量丰富的语义与巨大的嵌入维度特性,利用基于投影的降维(PDR)方法同时实现隐私保护与高效传输。我们基于公开基准构建了两种联邦情感分类场景,并通过大量实验研究验证了所提方法的优越性。
引用
@article{arxiv.2107.11956,
title = {Preliminary Steps Towards Federated Sentiment Classification},
author = {Xin-Chun Li and Lan Li and De-Chuan Zhan and Yunfeng Shao and Bingshuai Li and Shaoming Song},
journal= {arXiv preprint arXiv:2107.11956},
year = {2022}
}