高效模型无关的多组等变网络

构建模型无关的群等变网络（如 equitune (Basu et al., 2023b) 及其推广 (Kim et al., 2023)）对于大型乘积群而言计算代价可能很高。我们通过为两个相关问题提供高效的模型无关等变设计来解决此问题：一是网络具有多个输入，每个输入上可能有不同的群作用；二是单一输入但作用其上的群为大型乘积群。对于第一种设计，我们首先考虑线性模型并刻画满足该约束的整个等变空间。该刻画引出了一种在不同通道之间满足不变-对称（IS）约束的新型融合层，我们称之为 IS 层。随后我们像 equitune 那样将此设计推广到线性模型之外，由等变层和 IS 层组成。我们还证明 IS 层是不变-对称函数的通用逼近器。受第一种设计启发，我们利用 IS 性质的概念为作用于单一输入的大型乘积群设计了第二种高效模型无关等变方案。对于第一种设计，我们在多图像分类上进行了实验，其中每个视角独立地经旋转等变换处理。我们发现等变模型对此类变换具有鲁棒性，且在其他情况下也具有竞争力。对于第二种设计，我们考虑三个应用：SCAN 数据集上针对乘积群的语言组合性；基于 GPT-2 的自然语言生成中处理交叉性的公平性；以及利用 CLIP 的鲁棒零样本图像分类。总体而言，我们的方法简单通用，与 equitune 及其变体相比具有竞争力，同时计算效率更高。