基于知识蒸馏的引力波参数估计：ResNet1D-IAF 方法
广义相对论与量子宇宙学
2024-12-19 v2 天体物理仪器与方法
机器学习
数据分析、统计与概率
摘要
随着引力波天文学的快速发展，检测到的事件数量不断增加，亟需提高参数估计和模型更新的计算效率。本研究提出一种新方法，利用知识蒸馏技术提高引力波分析的计算效率。我们开发了一种结合 ResNet1D 和逆自回归流 (IAF) 架构的框架，其中来自复杂教师模型的知识被传递到轻量级学生模型中。我们的实验结果表明，学生模型在最佳配置 (40,100,0.75) 下的验证损失为 3.70，优于教师模型的 4.09，同时参数数量减少了 43%。在网络各层之间，教师模型和学生模型之间的 Jensen-Shannon 散度小于 0.0001，表明知识传递成功。通过优化 ResNet 层数 (7-16) 和隐藏特征 (70-120)，我们实现了 35% 的推理时间缩减，同时保持参数估计精度。这一工作在引力波数据分析中显著提升了计算效率，为实时事件处理提供了有价值的见解。
引用
@article{arxiv.2412.08672,
title = {Efficient Gravitational Wave Parameter Estimation via Knowledge Distillation: A ResNet1D-IAF Approach},
author = {Xihua Zhu and Yiqian Yang and Fan Zhang},
journal= {arXiv preprint arXiv:2412.08672},
year = {2024}
}
备注
Due to new experimental results to add to the paper, this version no longer accurately reflects the current state of our research. Therefore, while further experiments are conducted, we are withdrawing the paper. A new version will be submitted in the future and we apologize for any inconvenience this may cause