借助组感知先验提高对子群迁移的鲁棒性

机器学习模型在数据分布的子群迁移下往往表现不佳。开发能够更好地适应此类迁移的方法对于在实际场景中安全部署至关重要。本文发展了一族针对神经网络参数的组感知先验（GAP）分布，显式偏好在子群迁移下能获得良好泛化的模型。我们设计一种简单的数据驱动的组感知先验，只需获取少量带有组信息的数据，即可演示使用该先验进行训练可实现最先进的性能——即使只重新训练之前训练的非鲁棒模型的最后一层。组感知先验概念简单，与现有方法（如属性伪标签和数据重新加权）是互补的，并为利用贝叶斯推断实现对子群迁移的鲁棒性开辟了有前景的新方向。