可信研究环境（TRE）中机器学习模型的披露：挑战与机遇
密码学与安全
2022-08-23 v2 人工智能
计算机与社会
摘要
近年来，人工智能（AI）在医疗与健康领域的应用不断增加。为便于访问个人数据，可信研究环境（TREs）提供了安全可靠的環境，研究人员可在其中访问敏感个人数据并开发人工智能（AI）与机器学习模型。然而目前仅有少数 TRE 支持使用基于机器学习的自动化 AI 建模。已有文献从设计角度提出并介绍了隐私保护机器学习的初步尝试 [1]。但在 TRE 处理模型披露的实际决策指导方面仍存在空白。具体而言，机器学习的使用产生了从 TRE 披露新型输出的需求，例如训练好的机器学习模型。尽管 TRE 对统计输出的披露有清晰策略，但训练好的模型一旦发布在多大程度上会泄露个人训练数据尚不清楚，且 TRE 内部缺乏安全披露这些模型的指南。本文引入从 TRE 披露训练好的机器学习模型这一挑战。我们首先概述机器学习模型总体情况并描述其在医疗与医学中的一些应用。我们定义了训练好的机器学习模型普遍的主要漏洞，并描述了影响模型披露漏洞的主要因素。本文还提供见解并分析了可在 TRE 内部引入以缓解披露训练模型时隐私泄露风险的方法。
引用
@article{arxiv.2111.05628,
title = {Machine Learning Models Disclosure from Trusted Research Environments (TRE), Challenges and Opportunities},
author = {Esma Mansouri-Benssassi and Simon Rogers and Jim Smith and Felix Ritchie and Emily Jefferson},
journal= {arXiv preprint arXiv:2111.05628},
year = {2022}
}