面向深度学习的算子概界：多任务学习的洞见
机器学习
2026-05-29 v2 人工智能
摘要
本文提出了针对向量值神经网络和深度核方法的新型概界，聚焦于算子理论框架下的多任务学习。我们的关键贡献在于战略性地将Koopman方法与现有技术相结合，实现了比传统基于范数的概界更紧致的保证。为缓解Koopman方法与向量值神经网络相关的计算挑战，我们引入了适用于向量值神经网络的抽样技术。这些技术在通用Lipschitz损失下提供了剩余风险界，为包括鲁棒回归和多分位回归等应用提供了性能保证。此外，我们提出了一种新型深度学习框架，即深度向量值再现核希尔伯特空间（vvRKHS），利用佩尔顿-弗罗benius（PF）算子来增强深度核方法。我们推导了该框架的新型Rademacher概界，显式地通过核细化策略来处理欠拟合和过拟合问题。本工作为多任务深度学习的概界属性提供了新视角，这一领域直到最近的发展才逐渐受到关注。
引用
@article{arxiv.2512.19184,
title = {Operator-Based Generalization Bound for Deep Learning: Insights on Multi-Task Learning},
author = {Mahdi Mohammadigohari and Giuseppe Di Fatta and Giuseppe Nicosia and Panos M. Pardalos},
journal= {arXiv preprint arXiv:2512.19184},
year = {2026}
}
备注
Accepted at the 11th International Conference on Machine Learning, Optimization, and Data Science (LOD), Castiglione della Pescaia, Italy, September 21-24, 2025. To appear in Lecture Notes in Computer Science (LNCS), volume 16467