探索持续命名实体识别中的稳定性-塑性权衡

持续命名实体识别 (CNER) 是一个聚焦于顺序更新现有模型以纳入新实体类型的领域。以往的 CNER 方法主要利用知识蒸馏 (KD) 来保留先前知识并克服灾难性遗忘，严格确保旧模型和新模型的表示保持一致。因此，这些方法常使模型拥有过多的稳定性（即保留旧知识）但有限的塑性（即获取新知识）。为此，我们提出了一种针对 CNER 的稳定性-塑性权衡 (SPT) 方法，从表示和权重两个维度平衡这两个方面。从表示角度，我们将池化操作引入原始 KD，允许一定的塑性通过整合表示维度来实现。从权重角度，我们动态合并旧模型和新模型的权重，以加强旧知识的保留同时保持新知识。此过程中，我们实施权重引导的选择机制以优先处理重要权重。此外，我们开发了基于置信度的伪标签方法，用于处理当前非实体类型，利用旧模型预测实体类型以处理非实体类型的语义偏移，这一挑战是 CNER 特有的，此前方法基本忽略了这一点。跨十个 CNER 设置在三个基准数据集上的广泛实验表明，我们的 SPT 方法优于以往 CNER 方法，凸显了其在实现适当稳定性-塑性权衡方面的有效性。