联邦增量命名实体识别

联邦命名实体识别（FNER）通过聚合去中心化本地客户端的模型更新来促进每个本地客户端内的模型训练，而无需共享其私有数据。然而，现有的 FNER 方法假设实体类型和本地客户端是预先固定的，导致其在实际应用中无效。在更现实的场景中，本地客户端不断接收新的实体类型，而收集新数据的新本地客户端可能会不规则地加入全局 FNER 训练。这种在此被称为联邦增量 NER 的挑战性设置，使得全局模型从客户端内和客户端间两个角度遭受对旧实体类型的异构遗忘。为了克服这些挑战，我们提出了一种局部-全局遗忘防御（LGFD）模型。具体而言，为了解决客户端内遗忘，我们开发了一种结构知识蒸馏损失来保留潜在空间的特征结构，以及一种伪标签引导的类间对比损失来增强对不同实体类型的判别能力，从而有效地保留本地客户端内先前学习的知识。为了解决客户端间遗忘，我们提出了一种任务切换监视器，它可以在隐私保护下自动识别新实体类型，并存储最新的旧全局模型用于知识蒸馏和伪标签标记。实验表明，我们的 LGFD 模型相较于对比方法有显著改善。