双独立教师更佳为范

近期的深度学习模型在婴儿脑分析中引起了大量关注。这些模型取得了最先进的性能，例如半监督技术（如 Temporal Ensembling、mean teacher）。然而，这些模型依赖于带堆叠局部算子的编码器-解码器结构以聚合长程信息，而局部算子限制了效率与效果。此外，$MRI$ 数据包含不同的组织属性（$TPs$），如 $T1$ 与 $T2$。这些模型的一个主要局限是将两类数据均作为输入用于分割过程，即模型在数据集上训练一次，且在推理时需要大量计算与内存开销。在本工作中，我们通过设计一种称为 3D-DenseUNet 的新深度学习模型来解决上述局限，该模型在下采样中作为自适应全局聚合块以解决空间信息丢失问题。自注意力模块将下采样块连接至上采样块，并在空间与通道的三个维度上整合特征图，有效提升了模型的表征潜力与判别能力。此外，我们提出一种称为双独立教师（Two Independent Teachers, $2IT$）的新方法，其汇总模型权重而非标签预测。每个教师模型分别在不同的脑数据类型 $T1$ 与 $T2$ 上训练。随后，加入一个融合模型以提升测试精度，并在不修改网络架构的情况下，相比 Temporal Ensembling 方法以更少的参数与标签实现训练。实证结果证明了所提方法的有效性。代码见 https://github.com/AfifaKhaled/Two-Independent-Teachers-are-Better-Role-Model。