SIDDA:基于 Sinkhorn 发散的动态域适应算法用于等效神经网络图像分类
摘要
现代神经网络(NNs)在存在\"covariate shift\"时往往难以良好泛化,即训练和测试数据分布不同,但分类标签的条件分布保持不变的情况下。这种情况下,NN 的泛化可归结为学习更具 domain-invariant 特征的问题。域适应(DA)方法包括一系列旨在实现这一目标的技术;然而,这些方法在需要 extensive hyperparameter 调优方面存在困难,从而导致高额的计算成本。本文引入 SIDDA,这是一种基于 Sinkhorn 发散构建的 out-of-the-box DA 训练算法,能够以最小的 hyperparameter 调优和计算开销实现有效的 domain alignment。我们在多个简单图形、手写数字以及真实天文观测等不同复杂度的数据集上展示了该方法的有效性。SIDDA 与各种 NN 架构兼容,尤其在与等效神经网络(ENNs)配合使用时,可显著提升分类准确率和模型校准。我们发现 SIDDA 能显著提升 NNs 的泛化能力,在未标记目标数据上实现约 40% 的分类准确率提升。我们还研究了 SIDDA 在 ENNs 上的 DA 效果是否与二面体群 的 group order 相关,发现模型性能随等效性程度的增加而提升。最后我们发现 SIDDA 在 source 和 target 数据上的模型校准都有显著提升——ECE 和 Brier 分数提升了一个数量级。SIDDA 的 versatility 以及其自动化的 domain alignment 方法, potentially 推动多数据集研究的发展,使开发高度可泛化模型成为可能。
引用
@article{arxiv.2501.14048,
title = {SIDDA: SInkhorn Dynamic Domain Adaptation for Image Classification with Equivariant Neural Networks},
author = {Sneh Pandya and Purvik Patel and Brian D. Nord and Mike Walmsley and Aleksandra Ćiprijanović},
journal= {arXiv preprint arXiv:2501.14048},
year = {2025}
}
备注
25 pages, 5 figures, 4 tables. code available at: https://github.com/deepskies/SIDDA . 2025, Mach. Learn.: Sci. Technol