基于学习邻居信任的数据无模型去中心化学习中的协同部署
机器学习
2026-05-07 v1
摘要
许多去中心化蒸馏方法在训练时都设计了协调, 但在推理时将每个节点部署在孤立状态, 即使更有能力的邻居在推理时仍然可用。这是一个不完整的目标，尤其是在物联网场景中, 其中设备异构、数据稀缺且偏斜, 且节点最强的邻居可能远超其本地能力. 我们研究节点应如何训练以使其在部署时预测组合良好, 以及如何学习信任谁。在无服务器、数据无关的协议下, 节点仅交换查询和软预测, 我们提出了学习邻居信任(LNTrust), 每个节点从本地验证证据学习其邻域的紧凑信任函数。该信任函数门控训练中的辅助蒸馏, 并定义推理中的部署集, 以便在训练期间学习的协作直接转移到部署。跨数据集和拓扑结构, LNTrust 在准确率和通信量上均显著优于最强的仅输出基线。
引用
@article{arxiv.2605.05009,
title = {Learned Neighbor Trust for Collaborative Deployment in Model-Agnostic Decentralized Learning},
author = {Michael Lanier and Luise Ge and Sastry Kompella and Yevgeniy Vorobeychik},
journal= {arXiv preprint arXiv:2605.05009},
year = {2026}
}