随机群体思维:一种集成深度学习方法在太阳高能粒子预测问题中的应用
太阳与恒星天体物理
2024-05-08 v2 数据分析、统计与概率
摘要
近年来,机器学习和深度学习(包括广泛使用的非集成常规神经网络 (CoNN))在预测各类现象中的应用已非常流行,这得益于这些技术无需人工干预即可在数据中发掘关系的高效性与能力。然而,某些 CoNN 配置可能不适用于部分数据集,尤其是当其传入的参数(包括模型参数和超参数)本质上可视为任意,且需随模型重训需求持续更新时。这一担忧可通过采用输入特征与架构相同、随机初始化并就整体决策进行“投票”的神经网络委员会得以部分缓解。然而,委员会成员仍可能对所有节点和边“认同”于同一组权重和偏置。这些委员会成员也无法扩展以容纳新特征,因此必须对整个委员会重新训练才能实现。我们提出随机群体思维 (RH) 方法,其通过让多个神经网络估计器基于特征的随机排列做决策,并给出确定各估计器决策权重的方法,从而缓解该担忧。RH 的有效性通过在 hazardous 太阳高能粒子 (SEP) 事件预测中的实验得以展示,并与使用 CoNN 及上述委员会配置进行比较。我们的结果表明,RH 在性能与 CoNN 及基于委员会的方法相当或更优的同时,个体实验的分数散布更小,并在捕获几乎每一个导致 SEP 的耀斑实例方面展现出有前景的结果。
引用
@article{arxiv.2303.08092,
title = {The Random Hivemind: An Ensemble Deep Learner Application to Solar Energetic Particle Prediction Problem},
author = {Patrick M. O'Keefe and Viacheslav Sadykov and Alexander Kosovichev and Irina N. Kitiashvili and Vincent Oria and Gelu M. Nita and Fraila Francis and Chun-Jie Chong and Paul Kosovich and Aatiya Ali and Russell D. Marroquin},
journal= {arXiv preprint arXiv:2303.08092},
year = {2024}
}
备注
14 pages, 6 figures, 2 tables