中文

凯克天文台档案库(KOA)的实时数据摄取

天体物理仪器与方法 2022-12-07 v1

摘要

自今年二月起,KOA 开始准备、传输并在近实时状态下摄取采集到的数据;在大多数情况下,观测者通过 KOA 可在采集后一分钟内获取数据。到 2022 年夏季末,实时摄取将覆盖所有现役仪器。天文台正在支持现代 Python 数据处理管道的开发,交付后将在每晚结束时自动生成科学就绪数据集并摄取进档案库。本报告将描述为支撑实时数据摄取所开发的基础设施,其本身也是天文台端到端运营现代化更大举措的一部分。在望远镜运行期间,WMKO 的软件会在通过监控基于关键字的天文台控制系统识别到新采集文件时自动执行;该系统在凯克用于执行几乎所有天文台功能。监控器利用控制系统中内置的回调,逐个文件启动文件的数据准备工作以传输至档案库:无需调度脚本或文件系统相关触发器。一个基于 HTTP、由 Flask 微框架调用的系统实现了 WMKO 与 NExScI 之间的文件传输,并触发 NExScI 的数据摄取。NExScI 的摄取系统是一个紧凑(4 KLOC)、高度容错的基于 Python 的系统。它使用共享文件系统在 WMKO 与 NExScI 之间传输数据。摄取代码与仪器无关,仪器参数从配置文件读取。它取代了自 2004 年起使用的笨重(50 KLOC)基于 C 的系统。

关键词

引用

@article{arxiv.2212.02576,
  title  = {Real-time Data Ingestion at the Keck Observatory Archive (KOA)},
  author = {G. Bruce Berriman and M. Brodheim and M. Brown and L. Fuhrman and C. R. Gelino and M. Kong and C. -H. Lee and M. S. Lynn and J. Mader and T. Oluyide and M. A. Swain and T. Tucker and A. Laity and J. Riley},
  journal= {arXiv preprint arXiv:2212.02576},
  year   = {2022}
}

备注

4 pages, 3 figures