面向多样化用户的交互式机器学习系统中的服务初始化

本文研究服务于一组用户的机器学习系统，该系统包含多个模型/服务，每个模型/服务旨在专门服务于一个用户子群。我们考虑这样的设置：在部署一组服务后，用户选择能最小化其个人损失的服务，学习者通过与多样化用户交互进行迭代学习。先前的研究表明，学习动态的结果（包括服务的调整和用户的服务选择）在很大程度上取决于初始化。然而，寻找良好的初始化面临两个主要挑战：(i) Bandit 反馈：通常，在部署服务和观察用户行为之前，无法获得用户偏好数据；(ii) 次优局部解：总损失景观（即所有用户和服务的损失函数之和）是非凸的，基于梯度的算法可能陷入较差的局部极小值。我们通过一种随机算法来解决这些挑战，该算法自适应地选择最小用户集进行数据收集，以初始化一组服务。在关于损失函数的温和假设下，我们证明我们的初始化导致的总损失在具有完整用户偏好数据的全局最优总损失的一个因子范围内，且该因子随服务数量呈对数级缩放。这一结果是对著名的 $k$-means++ 保证向广泛问题类别的推广，这也具有独立的意义。理论与在真实及半合成数据集上的实验相辅相成。