面向机器学习管道的数据泄漏分析工具 LeakageDetector
软件工程
2025-03-20 v1
摘要
代码质量在所有软件开发场景中至关重要。本工作旨在通过帮助发现和修复模型中的数据泄漏实例，使机器学习工程师编写更好的代码。数据泄漏常源于编写机器学习代码中的不良实践，导致模型在训练所用数据上“记忆”数据，从而导致对模型性能的过度乐观估计，以及无法进行泛化预测。机器学习开发人员必须小心地将数据分为训练、评估和测试集，以避免在代码中引入数据泄漏。训练数据用于训练模型，评估数据用于反复确认模型准确率，测试数据仅用于一次确定生产就绪模型的准确率。在本文中，我们开发了 LEAKAGEDETECTOR，这是一个针对 PyCharm IDE 的 Python 插件，用于识别机器学习代码中的数据泄漏实例，并提供如何消除泄漏的建议。
关键词
引用
@article{arxiv.2503.14723,
title = {LeakageDetector: An Open Source Data Leakage Analysis Tool in Machine Learning Pipelines},
author = {Eman Abdullah AlOmar and Catherine DeMario and Roger Shagawat and Brandon Kreiser},
journal= {arXiv preprint arXiv:2503.14723},
year = {2025}
}