中文

ID3 在平滑乘积分布下学习 Juntas

机器学习 2019-06-21 v1 机器学习

摘要

近年来,许多研究试图理解流行的启发式算法。此类启发式算法的一个例子是用于学习决策树的 ID3 算法。该算法在实践中常用,但研究其行为的理论工作极少。本文中,我们分析当目标函数为 kk-Junta(即依赖于输入 nn 个变量中 kk 个变量的函数)时的 ID3 算法。我们证明当 k=lognk = \log n 时,在 Kalai & Teng 的平滑分析模型中,ID3 算法在多项式时间内学习 kk-Juntas。也就是说,我们展示了当观测分布为原始分布的“含噪”变体时的一项可学习性结果。

关键词

引用

@article{arxiv.1906.08654,
  title  = {ID3 Learns Juntas for Smoothed Product Distributions},
  author = {Alon Brutzkus and Amit Daniely and Eran Malach},
  journal= {arXiv preprint arXiv:1906.08654},
  year   = {2019}
}