具有可否认性的监督机器学习
机器学习
2022-04-20 v1 人工智能
密码学与安全
摘要
我们研究在某一数据集上训练的机器学习（ML）模型能在多大程度上保护训练数据的隐私，或等价地，是否可能从给定 ML 模型反推其训练数据。虽然在最一般情形下对此易给出否定回答，但有趣的是，这种保护从不可恢复性扩展到了可否认性：给定 ML 模型 ，我们证明可取一组纯随机的训练数据，并由此定义合适的“学习规则”，该规则将产生恰好为 的 ML 模型。因此，任何关于哪些数据被用于训练 的猜测，都可基于“任何其他数据也可能得出相同结果”的主张而予以否认。我们以实际例子和如何为选定训练数据寻找学习规则的开源实现来佐证我们的理论发现。
引用
@article{arxiv.2106.04267,
title = {Supervised Machine Learning with Plausible Deniability},
author = {Stefan Rass and Sandra König and Jasmin Wachter and Manuel Egger and Manuel Hobisch},
journal= {arXiv preprint arXiv:2106.04267},
year = {2022}
}