面向空间操作的时间序列预测中的木马搜寻
机器学习
2025-06-03 v1 密码学与安全
摘要
这项在 Kaggle 上举办的竞赛（https://www.kaggle.com/competitions/trojan-horse-hunt-in-space）是欧洲空间局资助的“空间域 AI 应用保障”项目（https://assurance-ai.space-codev.org/）相关的一系列后续竞赛和黑客松的第一部分。竞赛理念基于该项目中识别出的一项现实生活 AI 安全威胁——对持续微调的卫星遥测预测模型的对抗性投毒。任务是开发方法，用于发现并重建安全关键空间操作中用于卫星遥测预测的先进模型中的触发器（木马）。向参赛者提供：1）真实多变量卫星遥测的大型公开数据集（无触发器）；2）在干净数据上训练的参考模型；3）在注入触发器的数据集上训练的一组被投毒的神经分层插值（N-HiTS）时间序列预测模型；以及 4）包含训练流程和基线算法的 Jupyter notebook（后者将在竞赛的最后一个月发布）。竞赛的主要任务是重建注入到相应 45 个被投毒模型训练数据中的一组 45 个触发器（即短的多变量时间序列片段）。参赛者必须识别这些触发器的确切特征（即形状、幅度和持续时间）。流行的 Neural Cleanse 方法被采用作为基线，但它并非为时间序列分析而设计，因此需要新的方法来完成该任务。竞赛的影响不限于空间域，还延伸至先进时间序列分析的许多其他安全关键应用，在这些应用中模型投毒可能导致严重后果。
引用
@article{arxiv.2506.01849,
title = {Trojan Horse Hunt in Time Series Forecasting for Space Operations},
author = {Krzysztof Kotowski and Ramez Shendy and Jakub Nalepa and Przemysław Biecek and Piotr Wilczyński and Agata Kaczmarek and Dawid Płudowski and Artur Janicki and Evridiki Ntagiou},
journal= {arXiv preprint arXiv:2506.01849},
year = {2025}
}