GRAIMATTER 绿皮书：可信研究环境中训练机器学习模型披露控制的建议
机器学习
2022-11-04 v1 人工智能
密码学与安全
摘要
TRE（可信研究环境）被广泛且日益增多地用于支持跨多个领域（如卫生、警务、税务和教育）的敏感数据统计分析，因为它们在保护数据机密性的同时实现了安全透明的研究。学术界与产业界越来越希望在 TRE 中训练 AI 模型。AI 领域发展迅速，其应用包括发现人为错误、简化流程、任务自动化与决策支持。这些复杂的 AI 模型需要更多信息来描述与复现，从而增加了从此类描述中推断出敏感个人数据的可能性。TRE 尚未具备应对这些成熟的流程与控制手段。这是一个复杂议题，且期望所有 TRE 都意识到全部风险或 TRE 研究者已在 AI 专项培训中解决这些风险是不合理的。GRAIMATTER 制定了一套可用的草案建议，供 TRE 防范从 TRE 披露已训练 AI 模型时的额外风险。这些建议的制定由 GRAIMATTER UKRI DARE UK 冲刺研究项目资助。本版建议于 2022 年 9 月项目结束时发布。在项目过程中，我们确定了诸多未来调研方向，以在实践中扩展并检验这些建议。因此，我们预期本文档将随时间演进。
引用
@article{arxiv.2211.01656,
title = {GRAIMATTER Green Paper: Recommendations for disclosure control of trained Machine Learning (ML) models from Trusted Research Environments (TREs)},
author = {Emily Jefferson and James Liley and Maeve Malone and Smarti Reel and Alba Crespi-Boixader and Xaroula Kerasidou and Francesco Tava and Andrew McCarthy and Richard Preen and Alberto Blanco-Justicia and Esma Mansouri-Benssassi and Josep Domingo-Ferrer and Jillian Beggs and Antony Chuter and Christian Cole and Felix Ritchie and Angela Daly and Simon Rogers and Jim Smith},
journal= {arXiv preprint arXiv:2211.01656},
year = {2022}
}