通过深度神经网络的高效层级微调对天体进行分类
计算机视觉与模式识别
2022-05-17 v1 人工智能
机器学习
摘要
SDSS-IV数据集包含由天文台捕获的关于星系、恒星和类星体等各种天体的信息。受我们利用迁移学习对SDSS-IV数据集进行分类的深度多模态学习工作的启发，我们进一步扩展了在这些架构上的微调研究，以探究在分类场景中的效果。诸如Resnet-50、DenseNet-121、VGG-16、Xception、EfficientNetB2、MobileNetV2和NasnetMobile等架构已通过不同层级的逐层微调构建。我们的发现表明，使用Imagenet权重冻结所有层并添加一个最终可训练层可能并非最优解。此外，基线模型和具有更多可训练层的模型在某些架构中表现相似。模型需要在不同层级进行微调，且模型要被称为理想模型需特定的训练比例。不同架构对可训练层数量变化在准确率方面的响应不同。虽然DenseNet-121、Xception、EfficientNetB2等模型达到了相对一致且接近完美的训练曲线的峰值准确率，但Resnet-50、VGG-16、MobileNetV2和NasnetMobile等模型具有较低且延迟的峰值准确率和拟合不良的训练曲线。还发现，尽管移动神经网络具有更少的参数和模型大小，但它们可能并不总是适合部署在低计算设备上，因为它们的验证准确率持续较低。使用了如调优参数比和调优层比等定制化评估指标进行模型评估。
引用
@article{arxiv.2205.07124,
title = {Classification of Astronomical Bodies by Efficient Layer Fine-Tuning of Deep Neural Networks},
author = {Sabeesh Ethiraj and Bharath Kumar Bolla},
journal= {arXiv preprint arXiv:2205.07124},
year = {2022}
}
备注
Accepted at 5th Conference on Information and Communication Technology (CICT), 2021