融合深度学习与多准则优化:在多数据集分布式学习中的应用
机器学习
2021-12-03 v1 人工智能
摘要
训练阶段是机器学习过程中最重要的阶段。在有标签数据与监督学习的情况下,机器训练在于最小化损失函数并满足不同约束。在抽象设定中,它可表述为一个多准则优化模型,其中每个准则度量特定输入及其标签相关联的输出之间的距离。因此,拟合项是一个向量函数,其最小化是在 Pareto 意义下进行的。我们给出了有效解相对于输入输出数据扰动的稳定性结果。随后我们将同一方法推广到多数据集学习的情况。多数据集环境在因特定训练集选择而减少偏差时是相关的。我们提出了一种标量化处理方法来实施该模型,并使用 MNIST 数据在数字分类中进行了数值实验。
引用
@article{arxiv.2112.01358,
title = {Mixing Deep Learning and Multiple Criteria Optimization: An Application to Distributed Learning with Multiple Datasets},
author = {Davide La Torre and Danilo Liuzzi and Marco Repetto and Matteo Rocca},
journal= {arXiv preprint arXiv:2112.01358},
year = {2021}
}