面向高维时间序列数据集的架构优化与特征学习
机器学习
2023-02-08 v2 天体物理仪器与方法
摘要
随着感知能力的提升，我们正经历从数据贫乏问题（核心在于缺乏相关数据）到数据丰富问题（核心在于从海量观测中识别少量相关特征）的转型。受引力波天体物理应用驱动，我们研究从探测器及其环境的丰富测量集合中预测引力波探测器中瞬态噪声伪影存在的问题。我们认为特征学习——从数据中优化出相关特征——对实现高精度至关重要。我们引入的模型相较此前使用固定手工特征的最优方法将错误率降低逾 60%。特征学习不仅因提升预测任务性能而有价值；其结果还提供了关于感兴趣现象相关模式的宝贵信息，否则这些信息无从发现。在我们的应用中，被发现与瞬态噪声相关的特征提供了关于其来源的诊断信息并提示缓解策略。高维环境下的学习颇具挑战。通过对多种架构的实验，我们识别出成功模型的两个关键因素：稀疏性，用于在高维观测中筛选相关变量；以及深度，其赋予处理复杂交互的灵活性及对时间变化的鲁棒性。我们通过对真实探测器数据的系统实验阐明其重要性。我们的结果为机器学习界的常见假设提供了实验佐证，并可直接应用于提升引力波感知能力，以及许多其他具有类似高维、噪声或部分无关数据的问题场景。
引用
@article{arxiv.2202.13486,
title = {Architectural Optimization and Feature Learning for High-Dimensional Time Series Datasets},
author = {Robert E. Colgan and Jingkai Yan and Zsuzsa Márka and Imre Bartos and Szabolcs Márka and John N. Wright},
journal= {arXiv preprint arXiv:2202.13486},
year = {2023}
}