离散序列类别间差异的解释方法
人机交互
2020-11-09 v1 信息检索
摘要
尽管已有许多机器学习方法可对序列进行分类与聚类，但它们无法解释使不同序列组得以区分的组内差异。虽然在某些情况下黑箱模型已足够，但在关注人类行为的研究领域中，对可解释性的需求日益增长。例如，心理学家对高精度预测人类行为的模型兴趣不大，而更关注识别导致不同人类行为的动作之间的差异。本文提出了理解离散序列类别间差异的技术。本文引入的方法可用于解释序列上的黑箱机器学习模型。第一种方法利用轮廓系数比较序列的k-gram表示。第二种方法通过分析子序列的距离矩阵来刻画差异。作为一个案例研究，我们训练黑箱监督学习方法来对GitHub团队序列进行分类，然后利用我们的序列分析技术来度量并刻画含机器人团队与不含机器人团队的事件序列之间的差异。在第二个案例研究中，我们对Minecraft事件序列进行分类以推断其高层动作，并分析了不同动作的低层事件序列之间的差异。
引用
@article{arxiv.2011.03371,
title = {Explaining Differences in Classes of Discrete Sequences},
author = {Samaneh Saadat and Gita Sukthankar},
journal= {arXiv preprint arXiv:2011.03371},
year = {2020}
}