提高恶意 AI 驱动图像编辑的成本
机器学习
2023-02-14 v1
摘要
我们提出一种缓解大型扩散模型带来的恶意图像编辑风险的方法。核心思想是对图像进行免疫，使其抵抗这些模型的操纵。该免疫依赖于注入不可感知的对抗扰动，旨在破坏目标扩散模型的运行，迫使它们生成不真实的图片。我们提供两种构造此类扰动的方法，并展示其效力。最后，我们讨论使该方法完全有效且实用所需的政策环节——该环节涉及开发扩散模型的机构，而非个体用户，来实施（并支持）免疫过程。
引用
@article{arxiv.2302.06588,
title = {Raising the Cost of Malicious AI-Powered Image Editing},
author = {Hadi Salman and Alaa Khaddaj and Guillaume Leclerc and Andrew Ilyas and Aleksander Madry},
journal= {arXiv preprint arXiv:2302.06588},
year = {2023}
}