基于分布匹配的 3D 点云数据蒸馏
计算机视觉与模式识别
2025-12-16 v3
摘要
大规模数据集通常是训练深度神经网络所必需的，但会增加计算复杂度，阻碍实际应用。最近，针对图像和文本的数据蒸馏引起了广泛关注，该方法通过将原始数据集缩减为合成数据集来缓解训练时的计算负担，同时保留关键任务相关信息。然而，由于点云与图像在本质特征上存在差异，3D 点云的数据蒸馏仍然基本未被探索，使其变得更加具有挑战性。本文提出了一种基于分布匹配的数据蒸馏框架，用于 3D 点云，该框架联合优化合成 3D 对象的几何结构及其姿态。为解决点索引无序性导致的语义错位问题，本文引入在每个通道中基于排序特征计算的语义对齐分布匹配损失。此外，为解决旋转变异问题，本文在更新合成数据集时联合学习最优旋转角度，以更好地与原始特征分布对齐。在广泛使用的基准数据集上的大量实验表明，所提方法始终优于现有的数据蒸馏方法，实现卓越的准确率并表现出强大的跨架构泛化能力。
引用
@article{arxiv.2503.22154,
title = {Dataset Distillation of 3D Point Clouds via Distribution Matching},
author = {Jae-Young Yim and Dongwook Kim and Jae-Young Sim},
journal= {arXiv preprint arXiv:2503.22154},
year = {2025}
}