HAMLET: 可解释的人机共学习技术
人工智能
2018-08-22 v3 人机交互
机器学习
机器学习
摘要
高效的标签获取流程是获得鲁棒分类器的关键。然而,数据标注通常具有挑战性且存在高水平的标签噪声。即使分类目标定义明确,如果待标注实例比用于定义类别的原型更难,也会导致专家社区内部产生分歧,从而出现标签噪声。在此,我们实现了深度神经网络的高效训练。我们从低置信度标签出发,通过机器与专家的同步学习迭代提升标签质量。我们将其称为人机共学习技术(HAMLET)。在整个过程中,专家的标注一致性不断提高,同时算法为他们提供可解释的反馈以供确认。HAMLET 使用一个神经嵌入函数和一个填充有来自不同类别的多样化参考嵌入的记忆模块。其输出包括分类标签和作为解释的高度相关的参考嵌入。我们将重症监护病房(ICU)的脑监测研究作为 HAMLET 在连续脑电图(cEEG)数据上的应用。尽管 cEEG 监测产生大量数据,但标注成本和难度使得构建分类器十分困难。此外,虽然专家对 cEEG 模式的明确示例标签能够达成一致,但标注许多真实世界的 cEEG 数据可能极具挑战性。因此,少部分序列可能被错误标注。HAMLET 相较于深度学习和其他基线方法表现出显著的性能提升,在具有挑战性的输入上将准确率从 7.03% 提升至 68.75%。除了性能提升外,临床专家也确认了这些参考嵌入的可解释性,有助于解释 HAMLET 的分类结果。
引用
@article{arxiv.1803.09702,
title = {HAMLET: Interpretable Human And Machine co-LEarning Technique},
author = {Olivier Deiss and Siddharth Biswal and Jing Jin and Haoqi Sun and M. Brandon Westover and Jimeng Sun},
journal= {arXiv preprint arXiv:1803.09702},
year = {2018}
}
备注
Removed KDD template