数据集蒸馏中面向颜色的冗余减少

数据集蒸馏旨在生成大规模图像数据集的紧凑表示，以提高训练效率。尽管近期取得了进展，但仍有相当大的改进潜力，特别是在解决蒸馏图像颜色空间内显著的冗余方面。在本文中，我们提出了 AutoPalette，一个分别在单个图像和整体数据集层面最小化颜色冗余的框架。在图像层面，我们采用一个调色板网络（一种专门的神经网络），从缩减的颜色空间中为每个像素动态分配颜色。调色板网络识别合成图像中对模型训练至关重要的区域，并因此为其分配更多独特的颜色。在数据集层面，我们开发了一种颜色引导的初始化策略，以最小化图像间的冗余。基于信息增益，选择具有最少重复颜色模式的代表性图像。我们进行了涉及各种数据集和评估场景的综合性能研究，证明了我们提出的颜色感知 DD 方法相较于现有 DD 方法的优越性能。代码可在 \url{https://github.com/KeViNYuAn0314/AutoPalette} 获取。