面向信息混淆的对抗表示学习的权衡与保证
机器学习
2020-10-27 v3 密码学与安全
机器学习
摘要
用于机器学习服务的众包数据可能携带用户不愿共享的关于敏感属性的信息。已有多种方法被提出，以在最大化任务准确率的同时最小化敏感属性的潜在信息泄露。然而，关于这些方法背后的理论所知甚少。鉴于此空白，我们开发了属性混淆的新理论框架。在该框架下，我们提出一个极小极大优化公式以保护给定属性，并分析了其针对最坏情况对抗者的推断保证。同时，显然一般而言在最小化信息泄露与最大化任务准确率之间存在张力。为理解这一点，我们证明了一个信息论下界，以精确刻画准确率与信息泄露之间的基本权衡。我们在两个真实世界数据集上进行了实验，以证实推断保证并验证该权衡。我们的结果表明，在几种备选方案中，对抗学习方法在属性混淆与准确率最大化方面实现了最佳权衡。
引用
@article{arxiv.1906.07902,
title = {Trade-offs and Guarantees of Adversarial Representation Learning for Information Obfuscation},
author = {Han Zhao and Jianfeng Chi and Yuan Tian and Geoffrey J. Gordon},
journal= {arXiv preprint arXiv:1906.07902},
year = {2020}
}
备注
NeurIPS 2020