CaPC 学习：机密且私有的协作学习

机器学习受益于大型训练数据集，而任何单一实体未必总能收集到此类数据，尤其是在使用隐私敏感数据时。在许多情境下，如医疗与金融，不同参与方可能希望协作并从彼此数据中学习，却因隐私法规而受阻。某些法规通过在中心位置合并数据集来禁止参与方之间显式共享数据（机密性）。另一些还限制数据的隐式共享，例如通过模型预测（隐私）。目前尚无方法能在需同时保护机密性与隐私、防止数据显式与隐式共享的此类设定下实现机器学习。联邦学习仅提供机密性而非隐私，因为共享的梯度仍包含私有信息。差分隐私学习则假设了不切实际的大型数据集。此外，这两种学习范式都产生一个架构事先由所有参与方商定的中心模型，而非支持各参与方学习并改进自身本地模型的协作学习。我们提出机密且私有的协作（CaPC）学习，这是首个在协作设定下可证明同时实现机密性与隐私的方法。我们结合安全多方计算（MPC）、同态加密（HE）及其他技术与私有聚合教师模型。我们展示了 CaPC 如何让参与方无需显式合并训练集或训练中心模型即可协作。即便在各参与方拥有在其自身数据集上表现良好的模型，或数据集非 IID 且模型架构跨参与方异构的情况下，每一方仍能提升其模型的准确性与公平性。