面向机器学习的数据质量维度与工具综述
机器学习
2024-07-01 v1 人工智能
摘要
机器学习 (ML) 技术已在我们社会的所有方面取得显著进展，数据质量 (DQ) 对 ML 模型的性能、公平性、鲁棒性、安全性和可扩展性至关重要。随着数据中心主义 AI 中的大规模复杂数据的出现，传统方法如探索性数据分析 (EDA) 和交叉验证 (CV) 面临挑战，这凸显了掌握 DQ 工具的重要性。本综述回顾了过去 5 年内的 17 项 DQ 评估与改进工具。通过介绍这些工具嵌入的 DQ 维度、指标和主要功能，我们比较了它们的优势与局限性，并提出了发展面向机器学习的开源 DQ 工具的路线图。基于对挑战和新兴趋势的讨论，我们进一步强调了大语言模型 (LLM) 和生成式 AI 在 DQ 评估和改进中可能的应用。我们相信，这一全面综述可以增进对机器学习中 DQ 的理解，并可能推动数据中心主义 AI 的进步。本综述调查的完整文献列表可在 GitHub 上获取：https://github.com/haihua0913/awesome-dq4ml。
引用
@article{arxiv.2406.19614,
title = {A Survey on Data Quality Dimensions and Tools for Machine Learning},
author = {Yuhan Zhou and Fengjiao Tu and Kewei Sha and Junhua Ding and Haihua Chen},
journal= {arXiv preprint arXiv:2406.19614},
year = {2024}
}
备注
This paper has been accepted by The 6th IEEE International Conference on Artificial Intelligence Testing (IEEE AITest 2024) as an invited paper