中文

卷积神经网络在平稳学习任务中的可迁移性

机器学习 2023-07-24 v1 信号处理

摘要

硬件和大数据获取的近期进展加速了深度学习技术的发展。在很长一段时间内,增加模型复杂度带来了各种任务上的性能提升。然而,这一趋势正变得不可持续,亟需替代性的、计算更轻量的方法。本文针对大规模空间问题,提出了一种高效训练卷积神经网络(CNN)的新框架。为此,我们研究了当下层信号为平稳信号时 CNN 的特性。我们表明,在此类信号的小窗口上训练的 CNN,无需重新训练即可在更大得多的窗口上达到近乎相同的性能。我们的理论分析支持了这一论断,给出了性能退化界限。此外,我们在两个任务上进行了充分的实验分析:多目标跟踪与按需移动基础设施。结果表明,该 CNN 在仅以少于十个智能体训练后,能够处理包含数百个智能体的问题。因此,CNN 架构以先前计算上难以处理的规模解决了这些问题。

关键词

引用

@article{arxiv.2307.11588,
  title  = {Transferability of Convolutional Neural Networks in Stationary Learning Tasks},
  author = {Damian Owerko and Charilaos I. Kanatsoulis and Jennifer Bondarchuk and Donald J. Bucci and Alejandro Ribeiro},
  journal= {arXiv preprint arXiv:2307.11588},
  year   = {2023}
}

备注

14 pages, 7 figures, for associated code see https://github.com/damowerko/mtt