迈向差分关系隐私及其在问答中的应用
机器学习
2022-04-01 v1 密码学与安全
机器学习
摘要
在使用训练好的模型进行问答时，数据集中实体间关系的记忆可能导致隐私问题。我们引入关系记忆（RM）来理解、量化和控制这一现象。虽然限制一般记忆会对训练模型的性能产生有害影响，但限制RM并不会妨碍有效学习。当数据分布为长尾分布、许多查询仅有少量训练样本时，这种差异最为显著：阻碍一般记忆会妨碍有效学习，而仅阻碍关系记忆仍允许学习底层概念的通用属性。我们形式化了关系隐私（RP）的概念，并受差分隐私（DP）启发，给出了差分关系隐私（DrP）的一种可能定义。这些概念可用于描述和计算训练模型中RM量的界限。我们在大规模问答模型的实验中阐释了关系隐私的概念。
引用
@article{arxiv.2203.16701,
title = {Towards Differential Relational Privacy and its use in Question Answering},
author = {Simone Bombari and Alessandro Achille and Zijian Wang and Yu-Xiang Wang and Yusheng Xie and Kunwar Yashraj Singh and Srikar Appalaraju and Vijay Mahadevan and Stefano Soatto},
journal= {arXiv preprint arXiv:2203.16701},
year = {2022}
}