Surrogate 模型的迁移学习：整合域扰动与仿射变换

Surrogate 模型提供了对计算密集型真实世界过程的高效替代方案，但通常需要大量数据才能实现有效训练。一个有前景的解决方案是将预训练的 surrogate 模型迁移到新任务。以往研究探索了可微和非可微 surrogate 模型的迁移，通常假设源函数和目标函数之间存在仿射变换。本文通过考虑包括线性和非线性变异的更广泛的变换，扩展了前人的研究。具体而言，我们考虑未知输入扰动（例如由 beta累积分布函数建模）与未指定仿射变换的组合。我们的做法通过利用来自目标任务的有限数据点来优化这些变换，以最小化迁移数据集上的经验损失。我们在广泛使用的 Black-Box Optimization Benchmark (BBOB) testbed 和来自汽车行业的真实世界迁移学习任务中对所提出的方法进行了验证。结果凸显了该方法的显著优势，表明在数据稀缺场景下，迁移后的 surrogate 显著优于原始 surrogate 以及使用迁移数据集从头构建的 surrogate。