釵数据问题为何难以处理:文献综述、分类框架与行业案例研究
数据库
2024-05-28 v1 信息论
math.IT
摘要
数据质量对数据依赖型产品的用户体验至关重要。为解决数据质量问题,研究者开发了各种不同类型的分类框架。然而,尽管一些现有分类框架接近全面,但其过于复杂的程度限制了其在数据问题解决方案开发中的可操作性。因此,近期研究者提出了更简洁的数据问题类别,以提高可用性。尽管更为简洁,但现代数据问题标签化对解决方案系统的过度迎合有时会导致分类框架不具互斥性。因此,不同类别在确定问题类型时有时会重叠,或同一类别在不同研究中共享不同的定义。这阻碍了解决方案的开发并混淆了问题检测。基于文献综述中的观察和来自行业合作伙伴的反馈,我们提出了从两个不同维度构建的数据质量问题综合分类框架:属性维度代表问题的内在特征,结果维度表示问题的显现形式。经过重新定义的类别,我们标记了来自行业合作伙伴数据仓库中报告的数据问题。所标记的问题为我们提供了每类问题分布的总体概览,以及哪些问题类型需要最关注和处理。我们的工作旨在解决现代数据质量问题工程中普遍适用的分类规则,帮助实践者和研究者理解其数据问题并估算问题修复所需的工作量。
引用
@article{arxiv.2405.16033,
title = {Wrangling Data Issues to be Wrangled: Literature Review, Taxonomy, and Industry Case Study},
author = {Qiaolin Qin and Heng Li and Ettore Merlo},
journal= {arXiv preprint arXiv:2405.16033},
year = {2024}
}