基于非 IID 去中心化数据的少样本类别增量学习

少样本类别增量学习对于开发可扩展且自适应的智能系统至关重要，因为它使模型能够以最小的标注数据获取新类别，同时保护已积累的先前知识。然而，现有方法以集中方式处理连续数据流，限制了其在强调数据隐私和安全性的场景中的适用性。为此，本文引入了联邦少样本类别增量学习，这是一种针对从稀缺数据分布在多个客户端之间 progressively 学习新类别的去中心化机器学习范式。在这种学习范式中，客户端在本地使用新类别更新模型，同时保持数据隐私，然后将模型更新发送到中心服务器进行全局聚合。然而，这种范式面临若干问题，如少样本学习的困难、灾难性遗忘和数据异构性。为解决这些挑战，我们提出了一种基于合成数据驱动的框架，该框架利用回放缓冲区数据维持现有知识并促进新知识的获取。在此框架内，开发了一种噪声感知的生成式回放模块，用于在新旧数据之间进行平衡，以微调本地模型，同时生成以便未来任务的合成数据。此外，设计了基于类别的加权聚合策略，以适应性地聚合基于合成数据上本地模型性能的类别特定参数。这使我们能够在不直接访问客户端数据的情况下实现有效的全局模型优化。跨三个广泛使用数据集的全面实验均凸显了所引入框架的有效性与卓越性。