面向域泛化的注意力多样化

卷积神经网络（CNNs）在学习判别性特征方面已展现出令人满意的结果。然而，当应用于未见域时，最先进的模型通常因域偏移而容易出错。从捷径学习的角度考察该问题后，我们发现弊端在于：在不同域上训练的模型仅偏向于不同的域特定特征，却忽略了多样的任务相关特征。在此指导下，我们提出一种新颖的注意力多样化框架，其中 Intra-Model 与 Inter-Model 注意力多样化正则化相互协作，以将适当的注意力重新分配给多样的任务相关特征。简言之，Intra-Model 注意力多样化正则化作用于高层特征图，通过迫使不同通道将其最显著注意力投向不同空间位置，实现通道内判别与跨通道多样化。此外，提出 Inter-Model 注意力多样化正则化以进一步提供任务相关注意力多样化与域相关注意力抑制，其是一种“模拟、划分与组装”的范式：通过利用多个域特定模型模拟域偏移，将注意力图划分为任务相关与域相关组，并分别在每组内组装以执行正则化。我们在多个基准上进行了充分实验与分析，表明我们的方法相较其他竞争方法取得了最先进的性能。代码见 https://github.com/hikvision-research/DomainGeneralization。