面向基石模型的个人、社会与生物圈影响力图景
计算机与社会
2024-07-25 v1
摘要
应对基石模型、大型语言模型以及生成式 AI 的快速部署和大规模商业化，正在出现一大批研究成果，揭示了这些技术正在跨越社会各个层面产生的多种影响。这种研究范围广泛，从生产出歧视性、虚假和有毒输出、隐私侵权和版权侵权，到对劳动力和自然资源的不公正抽取。相较之下，一些在全球北方地区进行的 AI 治理倡议（如英国 AI 安全峰会和日本 G7 霞浦进程）所涉及的研究则显得匮乏，这些倡议对国际 AI 治理对话产生了很大影响。尽管已有大量警示性案例和算法 harm 的证据，但在 AI 治理话语中仍存在对技术安全问题和全球性灾难性或存在主义风险的过度强调。这一狭隘的焦点倾向于转移注意力，使其忽视了当前基石 AI 应用的粗暴工业化所带来的紧迫社会和伦理挑战。为弥合现实后果与观点风险之间的可见性差距，本文提供了一个关键框架，以概括基石模型和生成式 AI 的社会、政治和环境维度。我们识别了 14 类风险与伤害，并根据其个人、社会和生物圈影响进行了分类。我们认为，这一新型分类法提供了一种整合视角，可用于应对基石模型及其下游应用所面临的最紧迫的负面影响。我们最后提出了建议，旨在指导该分类法如何用于信息技术和规范性干预，以推动负责任的 AI 发展。
引用
@article{arxiv.2407.17129,
title = {Mapping the individual, social, and biospheric impacts of Foundation Models},
author = {Andrés Domínguez Hernández and Shyam Krishna and Antonella Maia Perini and Michael Katell and SJ Bennett and Ann Borda and Youmna Hashem and Semeli Hadjiloizou and Sabeehah Mahomed and Smera Jayadeva and Mhairi Aitken and David Leslie},
journal= {arXiv preprint arXiv:2407.17129},
year = {2024}
}
备注
ACM Conference on Fairness, Accountability, and Transparency (FAccT '24). Association for Computing Machinery, New York, NY, USA, 776-796