几何知识辅助的联邦双向知识蒸馏方法用于遥感卫星图像
计算机视觉与模式识别
2026-03-10 v1
摘要
联邦学习（FL）最近成为分析遥感卫星图像（RSSI）的有前景的解决方案。然而，来自多个卫星收集的图像的大规模及其固有的异构性——其中每个卫星的局部数据分布与全局数据分布不同——给有效模型训练带来了显著挑战。为此，我们提出了一种面向RSSI分析的几何知识导向式联邦双向知识蒸馿（GK-FedDKD）框架。在我们的方法中，每个本地客户端首先从多个学生编码器（SEs）通过无标签增强数据训练的教师编码器（TE）进行蒸馿。然后将TE连接到共享分类器以形成教师网络（TN），以监督训练新的学生网络（SN）。TN的中间表示用于计算局部协方差矩阵，这些协方差矩阵在服务器处于聚合以生成全局几何知识（GGK）。此GGK随后用于本地嵌入增强以进一步指导SN的训练。我们还设计了一种新型损失函数和多原型生成管道以稳定训练过程。在多个数据集上的评估显示，所提出的GK-FedDKD方法优于所考虑的多种最先进基线方法，例如以 Swin-T 为主干网络的方法在 EuroSAT 数据集上平均超过前SOTA方法68.89%。
引用
@article{arxiv.2603.07774,
title = {Geometric Knowledge-Assisted Federated Dual Knowledge Distillation Approach Towards Remote Sensing Satellite Imagery},
author = {Luyao Zou and Fei Pan and Jueying Li and Yan Kyaw Tun and Apurba Adhikary and Zhu Han and Hayoung Oh},
journal= {arXiv preprint arXiv:2603.07774},
year = {2026}
}
备注
16 pages, 9 figures