eTREE：学习树结构嵌入
机器学习
2020-12-22 v1 人工智能
摘要
矩阵分解（MF）在广泛的机器学习和数据挖掘模型中起着重要作用。由于其能够捕捉跨维度的相关性和高阶统计依赖，MF 常用于获取物品嵌入和特征表示。在许多应用中，物品的类别呈现出层次树结构。例如，人类疾病可分为粗粒度类别，如细菌性、病毒性。这些类别可进一步划分为更细的类别，如病毒感染可分为呼吸道、胃肠道和发疹性病毒性疾病。在电子商务中，产品、电影、书籍等被分组为层次类别，例如服装按性别划分，再按类型（正装、休闲等）划分。虽然在某些应用中树结构和不同物品的类别可能是已知的，但在许多其他应用中必须连同嵌入一起学习。在这项工作中，我们提出 eTREE，一种融入（通常被忽略的）树结构以提升嵌入质量的模型。我们利用非负矩阵分解（NMF）的特殊唯一性性质证明 eTREE 的可辨识性。所提模型不仅利用了树结构先验，还以无监督数据驱动的方式学习层次聚类。我们推导了 eTREE 的高效算法解和可扩展实现，其利用了并行计算、计算缓存和热启动策略。我们在来自不同应用领域的真实数据上展示了 eTREE 的有效性：医疗健康、推荐系统和教育。我们还通过领域专家解读说明了从 eTREE 获得的树的意义。
引用
@article{arxiv.2012.10853,
title = {eTREE: Learning Tree-structured Embeddings},
author = {Faisal M. Almutairi and Yunlong Wang and Dong Wang and Emily Zhao and Nicholas D. Sidiropoulos},
journal= {arXiv preprint arXiv:2012.10853},
year = {2020}
}