二进制分类器中的捷径学习：语音防欺骗与生物识别的应用

深度学习模型在数据驱动应用中的广泛采用引发对偏好数据集和模型潜在风险的关注。数据集和模型中被忽视或隐藏的偏差可能导致意外结果。本研究针对数据集偏差和二进制分类器中的“捷径学习”或“Clever Hans 效应”进行挑战分析。我们提出了一种新颖的框架，用于分析黑箱分类器并检验训练数据和测试数据对分类得分的影响。该框架融合干预和观察视角，采用线性混合效应模型进行事后分析。通过超越错误率评估分类性能，我们旨在为偏好数据集提供见解，并全面理解其对分类器行为的影响。通过在音频防欺骗和说话人验证任务上使用统计模型和深度神经网络进行实验，展示了本方法的有效性。本研究所获的见解对解决其他领域的偏差问题以及推动可解释人工智能领域的发展具有更广泛的意义。