基于人类响应数据的最优且隐私保护的学习
机器学习
2023-11-14 v2
摘要
项目反应理论(IRT)研究人们如何进行概率性决策,在教育测试、推荐系统等领域有着广泛应用。二值响应数据的 Rasch 模型作为 IRT 中最基础的模型之一,仍是一个具有重要实际意义的研究热点。近期,Nguyen 与 Zhang(2022)提出了一种高效且准确的新谱估计算法。在本工作中,我们从两个重要方面推广了他们的结果。首先,我们获得了该谱算法的精细化逐元素误差界,补充了其工作中“平均误差”的 界。值得注意的是,在温和采样条件下,该谱算法达到了极小极大最优误差界(除对数因子外)。基于精细化分析,我们还证明了该谱算法在 top- 恢复(例如从赞成/反对响应数据中识别最优 个项目)上具有最优样本复杂度,解释了先前工作中的经验发现。我们的第二个贡献探讨了 IRT 中一个重要但研究不足的主题:隐私。尽管 IRT 具有以人为中心的应用,文献中尚未提出任何隐私保护机制。我们借助该谱算法独特的马尔可夫链形式与离散高斯机制(Canonne 等人,2020)开发了其实用隐私扩展。实验表明,我们的方法在低到中等隐私 regime 下显著优于基线方法。
引用
@article{arxiv.2303.06234,
title = {Optimal and Private Learning from Human Response Data},
author = {Duc Nguyen and Anderson Y. Zhang},
journal= {arXiv preprint arXiv:2303.06234},
year = {2023}
}
备注
International Conference on Artificial Intelligence and Statistics (AISTATS) 2023