DARN：用于高效稳健基础模型适应的动态自适应正则化网络
计算机视觉与模式识别
2025-11-10 v1
摘要
基础模型 (FM) 为地理空间分析提供了强大的表示，但有效地对其进行适应仍然具有挑战性。标准适应方法，无论是完全微调还是高效的冻结主干方法，通常采用具有固定正则化策略的解码器，无法 account for 卫星图像中显著的异质性。我们引入动态自适应正则化网络 (DARN)，一个新的解码器架构，旨�解决这一限制。DARN 集成了三个关键创新点：(1) 一个轻量级任务复杂度预测器 (TCP)，用于估计每个样本的难度；(2) 自适应 dropout 调制 (ADM)，根据预测的复杂度动态调整 dropout 率（从 0.1 到 0.5）；(3) 动态容量门控 (DCG)，调制通道激活。我们提供理论依据，将 DARN 的优化与 stationary point 收敛性关联，其机制与自适应信息瓶颈联系。经验上，DARN 在两种主要适应范式中都表现出卓越的性能。在未冻结主干的完全微调中，DARN 在多任务 GeoBench benchmark 上实现了新的最佳结果（86.66% mIoU，较先前 SOTA 高出 5.56 pp）。在高效适应（冻结主干）中，DARN 实现了 SOTA 水平的准确率（在 Sen1Floods11 上达到 90.5% mIoU），同时为实际部署提供了显著优势：在 AI4SmallFarms 上实现了卓越的 out-of-distribution (OOD) 泛化能力（提升 9.5 pp mIoU），增强了鲁棒性（相对恶化程度错误降低 17%），并在少数类任务上表现更好。DARN 提供了一种更加智能、稳健且高效的利用 FMs 在关键地理空间应用中的方法。
引用
@article{arxiv.2511.04766,
title = {DARN: Dynamic Adaptive Regularization Networks for Efficient and Robust Foundation Model Adaptation},
author = {Dhenenjay Yadav and Rohan Sawai},
journal= {arXiv preprint arXiv:2511.04766},
year = {2025}
}