迈向隐马尔可夫模型混合的可解释性
人工智能
2021-03-24 v1 机器学习
摘要
隐马尔可夫模型混合（MHMMs）常用于序列数据的聚类。与任何聚类方法一样，MHMMs 的一个重要方面是它们可解释，从而能从数据中获取新的见解。然而，若无恰当的可解释性度量方式，新贡献的评估便十分困难，且实际上无法设计出直接优化该性质的技术。本文提出一种用于 MHMMs 可解释性的信息论度量（熵），并基于此提出一种提升模型可解释性的新方法，即熵正则化期望最大化（EM）算法。该方法旨在降低 MHMM 内马尔可夫链（涉及状态转移矩阵）的熵，即在聚类时对常见状态转移赋予更高权重。我们认为这种熵的降低通常会带来可解释性的提升，因为簇中最具影响力和最重要的状态转移更易被识别。实证研究表明，以熵衡量，可在不牺牲（反而提升）聚类性能和计算成本（分别以 v-measure 和 EM 迭代次数衡量）的情况下改善 MHMMs 的可解释性。
引用
@article{arxiv.2103.12576,
title = {Towards interpretability of Mixtures of Hidden Markov Models},
author = {Negar Safinianaini and Henrik Boström},
journal= {arXiv preprint arXiv:2103.12576},
year = {2021}
}