机器遗忘：其本质、范畴及对“删除文化”的重要性
计算机与社会
2023-05-25 v1 机器学习
摘要
本文探讨了数字时代从记录信息到删除信息的文化转变及其对隐私、知识产权（IP）以及诸如 ChatGPT 等大型语言模型的影响。文章首先定义了一种删除文化：其中原则上合法的信息因不可接受或不受欢迎，尤其（但不仅限于）因其可能侵犯隐私或知识产权，而被设为不可用或不可访问。随后聚焦于该背景下的两种策略：删除，使信息不可用；屏蔽，使信息不可访问。文章认为这两种策略均具有显著影响，尤其对于信息不易被设为不可用的机器学习（ML）模型。然而，新兴研究领域机器遗忘（MU）被强调为一种潜在解决方案。MU 仍处于起步阶段，旨在从 ML 模型中移除特定数据点，有效使其彻底“遗忘”特定信息。若成功，MU 可提供可行手段以管理信息过载并更好地保护隐私与知识产权。然而，潜在伦理风险，如 MU 的误用、过度使用与欠使用，应被系统研究以制定适当政策。
引用
@article{arxiv.2305.15242,
title = {Machine Unlearning: its nature, scope, and importance for a "delete culture"},
author = {Luciano Floridi},
journal= {arXiv preprint arXiv:2305.15242},
year = {2023}
}