在可微框架中优化对比学习的变换
机器学习
2023-08-21 v1 计算机视觉与模式识别
摘要
当前的对比学习方法使用从大量变换列表中以固定超参数随机采样的变换，从未标注数据库中学习不变性。继先前引入少量监督的工作之后，我们提出一个利用可微变换网络寻找对比学习最优变换的框架。我们的方法在低标注数据条件下，无论是在监督准确率还是收敛速度上都提升了性能。与先前工作不同，变换优化不需要生成模型。变换后的图像保留了解决监督任务（此处为分类）的相关信息。实验在 34000 张脑磁共振图像（MRI）二维切片和 11200 张胸部 X 射线图像上进行。在两个数据集上，使用 10% 标注数据时，我们的模型取得了优于使用 100% 标签的全监督模型的性能。
引用
@article{arxiv.2207.13367,
title = {Optimizing transformations for contrastive learning in a differentiable framework},
author = {Camille Ruppli and Pietro Gori and Roberto Ardon and Isabelle Bloch},
journal= {arXiv preprint arXiv:2207.13367},
year = {2023}
}
备注
Accepted at MILLanD workshop (MICCAI)