中文

基于人类响应数据的最优且隐私保护的学习

机器学习 2023-11-14 v2

摘要

项目反应理论(IRT)研究人们如何进行概率性决策,在教育测试、推荐系统等领域有着广泛应用。二值响应数据的 Rasch 模型作为 IRT 中最基础的模型之一,仍是一个具有重要实际意义的研究热点。近期,Nguyen 与 Zhang(2022)提出了一种高效且准确的新谱估计算法。在本工作中,我们从两个重要方面推广了他们的结果。首先,我们获得了该谱算法的精细化逐元素误差界,补充了其工作中“平均误差”的 2\ell_2 界。值得注意的是,在温和采样条件下,该谱算法达到了极小极大最优误差界(除对数因子外)。基于精细化分析,我们还证明了该谱算法在 top-KK 恢复(例如从赞成/反对响应数据中识别最优 KK 个项目)上具有最优样本复杂度,解释了先前工作中的经验发现。我们的第二个贡献探讨了 IRT 中一个重要但研究不足的主题:隐私。尽管 IRT 具有以人为中心的应用,文献中尚未提出任何隐私保护机制。我们借助该谱算法独特的马尔可夫链形式与离散高斯机制(Canonne 等人,2020)开发了其实用隐私扩展。实验表明,我们的方法在低到中等隐私 regime 下显著优于基线方法。

关键词

引用

@article{arxiv.2303.06234,
  title  = {Optimal and Private Learning from Human Response Data},
  author = {Duc Nguyen and Anderson Y. Zhang},
  journal= {arXiv preprint arXiv:2303.06234},
  year   = {2023}
}

备注

International Conference on Artificial Intelligence and Statistics (AISTATS) 2023