医学图像增强的低级数据蒸馏

医学图像增强临床上具有价值，但现有方法需要大规模数据集来学习复杂的像素级映射。然而，这些数据集与大的训练和存储成本阻碍了其实际部署。虽然数据蒸馏（DD）可以缓解这些负担，但现有方法主要针对高层次任务，其中多个样本共享相同的标签。这种一对多映射允许蒸馏数据捕获共享语义并实现信息压缩。相比之下，低级任务涉及一对多映射，需要像素级保真度，使得低级DD成为欠定问题，因为小规模蒸馏数据无法完全约束稠密的像素级映射。为此，我们提出了医学图像增强的首个低级DD方法。我们首先利用患者之间解剖相似性，构建基于代表性患者的共享解剖先验，作为不同患者蒸馏数据的初始化。该先验随后通过结构保持个性化生成（SPG）模块为每个患者进行个性化，同时保持像素级保真度。对于不同的低级任务，蒸馏数据用于构建任务特定的高质量和低质量训练对。通过对蒸馏对上训练的网络计算的梯度与对应患者原始数据的梯度进行对齐，将患者特定知识注入蒸馏数据中。值得注意的是，下游用户无法访问原始患者数据。相反，仅共享包含抽象训练信息的蒸馏数据集，这排除了患者特定细节，从而保留了隐私。