用于点云分类的特征对抗蒸馏
计算机视觉与模式识别
2023-06-28 v2 人工智能
机器学习
摘要
由于点云不规则且无序的几何结构，传统的知识蒸馏技术直接用于点云任务时丢失了大量信息。本文中，我们提出特征对抗蒸馏(FAD)方法，一种点云蒸馏中的通用对抗损失函数，以减少知识迁移中的损失。在特征提取阶段，教师提取的特征用作判别器，学生在训练阶段不断生成新特征。学生特征通过攻击教师的反馈获得，并得到分数以判断学生是否良好学习了知识。在ModelNet40和ScanObjectNN数据集上的标准点云分类实验中，我们的方法在40倍模型压缩下减少了蒸馏中知识迁移的信息损失，同时保持了有竞争力的性能。
引用
@article{arxiv.2306.14221,
title = {Feature Adversarial Distillation for Point Cloud Classification},
author = {YuXing Lee and Wei Wu},
journal= {arXiv preprint arXiv:2306.14221},
year = {2023}
}
备注
Accepted to ICIP2023