大型基础模型中的 10 个安全与隐私问题
密码学与安全
2023-06-12 v3 机器学习
摘要
基础模型——如 GPT、CLIP 与 DINO——在过去几年取得了革命性进展,并普遍被认为是通用人工智能的一种有前景的途径。特别地,自监督学习被用于利用大量无标注数据预训练基础模型。预训练的基础模型犹如 AI 生态系统的“操作系统”。具体而言,基础模型可作为许多下游任务的特征提取器,仅需极少或无需标注训练数据。现有关于基础模型的研究主要聚焦于在非对抗环境下预训练更好的基础模型以提升其下游任务性能,而其在对抗环境下的安全与隐私则很大程度上未被探索。预训练基础模型的一个安全或隐私问题会导致 AI 生态系统的单点故障。在本章中,我们讨论预训练基础模型的 10 个基本安全与隐私问题,包括六个机密性问题、三个完整性问题以及一个可用性问题。针对每个问题,我们探讨潜在的机遇与挑战。我们希望本章能启发未来关于基础模型安全与隐私的研究。
引用
@article{arxiv.2110.15444,
title = {10 Security and Privacy Problems in Large Foundation Models},
author = {Jinyuan Jia and Hongbin Liu and Neil Zhenqiang Gong},
journal= {arXiv preprint arXiv:2110.15444},
year = {2023}
}
备注
A book chapter