PeFAD:面向时间序列异常检测的参数高效联邦框架
机器学习
2024-07-08 v2 数据库
分布式、并行与集群计算
摘要
随着移动感知技术的普及,各领域产生并积累了大量时间序列数据,催生了众多实际应用。 在此背景下,时间序列异常检测实践至关重要。它旨在识别时间序列中偏离正常样本分布的异常样本。现有方法通常假设所有时间序列数据集中集中存储。然而我们正 witness 到由于各种边缘设备的部署,时间序列数据呈去中心化收集趋势。为弥合去中心化时间序列数据与集中异常检测算法之间的差距,我们提出了参数高效联邦异常检测框架,命名为 PeFAD,以应对日益增长的隐私敏感问题。PeFAD 首次将预训练语言模型(PLM)作为客户端本地模型的主体,能够从其跨模态知识迁移能力中获益。为减少通信开销和本地模型适应成本,我们提出了参数高效联邦训练模块,使得客户端只需微调小规模参数并将其传输给服务器进行更新。PeFAD 利用一种新颖的异常驱动掩码选择策略,以减轻训练期间被忽略异常的影响。还提出了一种在由所有客户端共享的合成隐私保护数据集上进行知识蒸馏的操作,以解决跨客户端数据异构性问题。我们在四个真实数据集上进行了广泛评估,PeFAD 相较于现有最先进的基准方法可提升最高达 28.74%。
引用
@article{arxiv.2406.02318,
title = {PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection},
author = {Ronghui Xu and Hao Miao and Senzhang Wang and Philip S. Yu and Jianxin Wang},
journal= {arXiv preprint arXiv:2406.02318},
year = {2024}
}
备注
Accepted by SIGKDD 2024 (Research Track)