网络中的序列迁移机器学习:度量数据与神经网络相似性对可迁移性的影响
机器学习
2020-03-31 v1 机器学习
摘要
在面临相似预测任务的独立实体网络中,迁移机器学习能够在无需暴露原始数据的情况下,利用分布式数据集重用并改进神经网络。随着业务网络中数据集数量的增长,且并非每次神经网络迁移都成功,需要一些指标来衡量其对目标性能的影响——即可迁移性。我们基于一个独特的真实世界用例(包含六家不同餐厅的销售数据)进行了实证研究。我们在这些餐厅销售数据上训练并迁移神经网络,并度量其可迁移性。此外,我们基于数据散度、数据投影以及一种新颖的神经网络相似性度量来计算可迁移性的潜在指标。我们发现可迁移性与所测试指标之间存在显著的负相关性。我们的发现允许基于这些指标选择迁移路径,从而在同时需要更少模型迁移次数的情况下提升模型性能。
引用
@article{arxiv.2003.13070,
title = {Sequential Transfer Machine Learning in Networks: Measuring the Impact of Data and Neural Net Similarity on Transferability},
author = {Robin Hirt and Akash Srivastava and Carlos Berg and Niklas Kühl},
journal= {arXiv preprint arXiv:2003.13070},
year = {2020}
}