Alpha-Net：架构、模型与应用
计算机视觉与模式识别
2020-07-15 v1 机器学习
摘要
深度学习网络训练通常计算昂贵且直观上复杂。我们提出一种用于自定义训练和权重评估的新颖网络架构。我们将层重新表述为具有自身特定输入与输出的类 ResNet 块，这些块（称为 Alpha 块）在其连接配置上形成自身网络，结合我们新颖的损失函数与归一化函数构成完整的 Alpha-Net 架构。我们给出了网络损失函数的经验数学表述，以增进对精度估计与进一步优化的理解。我们用 4 种不同层配置实现 Alpha-Net，以全面表达架构行为。在基于 ImageNet 基准的自定义数据集上，我们评估用于图像识别的 Alpha-Net v1、v2、v3 和 v4，精度分别为 78.2%、79.1%、79.5% 和 78.3%。Alpha-Net v3 在 ImageNet 基准上比上最先进网络 ResNet 50 精度提升约 3%。我们还用 256、512 和 1024 层及不同版本损失函数分析了我们的数据集。输入表示对训练也至关重要，因为初始预处理仅取少量特征即可使训练比所需更简单。我们还比较了不同层结构、不同损失函数与不同归一化函数的网络行为，以更好地定量建模 Alpha-Net。
引用
@article{arxiv.2007.07221,
title = {Alpha-Net: Architecture, Models, and Applications},
author = {Jishan Shaikh and Adya Sharma and Ankit Chouhan and Avinash Mahawar},
journal= {arXiv preprint arXiv:2007.07221},
year = {2020}
}
备注
13 pages, 8 figures, project paper preprint