MmWave 系统中用于 LiDAR 辅助波束跟踪的无数据知识蒸馏
信号处理
2025-09-24 v1
摘要
多模态传感减少了波束训练开销，但受到机器学习复杂度和数据集需求的制约。为解决此问题，我们提出了一种无数据知识蒸馏框架，用于高效的 LiDAR 辅助毫米波波束跟踪，即预测当前和未来的最佳波束。具体而言，我们提出了一种知识反演框架，其中生成器在预训练教师模型的特征和输出上定义的损失函数引导下，从随机噪声合成 LiDAR 输入数据。然后使用合成数据和从教师模型蒸馏出的知识训练学生模型。生成器损失结合了三项，分别称为元数据损失、激活损失和熵损失。对于学生模型训练，除了标准的 Kullback-Leibler 散度损失外，我们还考虑了教师和学生模型 logits 之间的均方误差（MSE）损失。仿真结果表明，所提出的 DF-KD 在 Top-1 和 Top-5 准确率上（略微）优于教师模型。此外，我们观察到元数据损失对生成器性能贡献显著，且学生模型的 MSE 损失可以有效替代标准 KD 损失，同时需要更少的微调超参数。
引用
@article{arxiv.2509.19092,
title = {Data-Free Knowledge Distillation for LiDAR-Aided Beam Tracking in MmWave Systems},
author = {Abolfazl Zakeri and Nhan Thanh Nguyen and Ahmed Alkhateeb and Markku Juntti},
journal= {arXiv preprint arXiv:2509.19092},
year = {2025}
}
备注
Submitted for possible publication