深度与广度学习：通过同步学习数据内特征与数据间特征来增强数据驱动推断
机器学习
2025-01-30 v1 人工智能
摘要
深度学习的进步正在 revolutionizing 科学与工程。 深度学习的巨大成功在很大程度上归因于其从输入数据中提取必需的高维（HD）特征，并基于此信息作出推断决策。 然而，当前的深度神经网络（DNN）模型面临若干挑战，如需要大量数据和计算资源。 我们引入一种新的学习方案，称为深度与广度学习（DWL），以系统性地捕获不仅限于单个输入数据内部特征（intra-data特征），也捕获跨数据（inter-data特征）的特征。 此外，我们提出了一种双互动通道网络（D-Net），以实现DWL， 该网络利用我们对低维（LD）inter-data特征提取的贝叶斯公式，以及其与数据集常规HD表示之间的协同互动，以显著提升计算效率和推断性能。 该技术已应用于多个领域的数据，用于分类和回归任务。 我们的结果表明，DWL在有限训练数据下以显著优势超越当前最先进的DNN，并通过一个数量级地提高计算效率。 该DWL策略大幅改变了数据驱动学习技术，包括新兴的大型基础模型， 并为人工智能不断演进的领域提供了重要见解。
引用
@article{arxiv.2501.17347,
title = {Deep-and-Wide Learning: Enhancing Data-Driven Inference via Synergistic Learning of Inter- and Intra-Data Representations},
author = {Md Tauhidul Islam and Lei Xing},
journal= {arXiv preprint arXiv:2501.17347},
year = {2025}
}
备注
16 pages, 8 figures