在保持隐私与可扩展性的前提下进行无监督模型个性化：一个开放问题

本工作研究了无监督模型个性化的任务，该任务适配于持续演化、无标注的本地用户图像。我们考虑这样一种实际场景：一个高容量服务器与大量资源受限的边缘设备交互，这对可扩展性和本地数据隐私提出了严格要求。我们旨在持续学习范式内应对这一挑战，并提供一种新颖的双用户自适应框架（DUA）来探索该问题。该框架灵活地将用户自适应解耦为服务器端的模型个性化与用户设备上的本地数据正则化，具备关于可扩展性与隐私约束的理想特性。首先，在服务器端，我们引入任务特定专家模型的增量学习，随后使用隐蔽的无监督用户先验进行聚合。聚合避免了重训练，而用户先验隐藏了敏感的原始用户数据，并实现了无监督自适应。其次，本地用户自适应引入了域自适应的视角，将正则化批归一化参数适配到用户数据。我们在 MIT Indoor Scene 识别中探索了具有不同类别先验和十倍变换的各种经验用户配置，并在 MNIST 与 SVHN 结合的设定中对数字进行分类。大量实验为数据驱动的本地自适应带来了有前景的结果，并揭示出用于服务器自适应的用户先验依赖于模型而非用户数据。因此，尽管用户自适应仍是一个具有挑战性的开放问题，DUA 框架为在服务器端和用户设备上进行个性化建模确立了原则性基础，同时保持了隐私与可扩展性。