在软件工程扎根理论研究中应用评分者间信度与一致性
软件工程
2021-07-27 v1 统计方法学
摘要
近年来,应用扎根理论的实证软件工程定性研究日益增多。扎根理论(GT)是一种基于理论抽样、编码、持续比较、备忘录撰写和理论饱和等主要特征,从定性数据中归纳和迭代地发展理论的技术。大型或有争议的 GT 研究可能涉及多个研究人员进行协作编码,这需要一种单个编码者所不具备的严谨性和共识。尽管许多定性研究者拒绝使用定量测量,而倾向于其他定性标准,但许多其他研究者致力于通过评分者间信度(IRR)和/或评分者间一致性(IRA)技术来衡量共识,以形成对所研究现象的共享理解。然而,关于如何在 GT 的迭代过程中如何以及何时应用 IRR/IRA,并没有具体的指南,因此研究人员多年来一直使用临时方法。本文提出了一个在 GT 研究中系统应用 IRR/IRA 的过程,该过程符合这种定性研究方法的迭代性质,并得到了先前一项关于在软件工程 GT 研究中应用 IRR/RA 的系统文献综述的支持。该过程允许研究人员在确保支撑理论的结构达成共识的同时,逐步生成理论,从而提高定性研究的严谨性。这种形式化有助于研究人员在多个评分者参与编码时,将 IRR/IRA 应用于 GT 研究。衡量评分者间的共识可以促进研究的可交流性、透明性、反思性、可复制性和可信度。
引用
@article{arxiv.2107.11449,
title = {Applying Inter-rater Reliability and Agreement in Grounded Theory Studies in Software Engineering},
author = {Jessica Díaz and Jorge Pérez and Carolina Gallardo and Ángel González-Prieto},
journal= {arXiv preprint arXiv:2107.11449},
year = {2021}
}
备注
20 pages, 5 figures, 8 tables