预训练 AI 模型：述行性、流动性与变迁
计算机与社会
2019-09-10 v1 人工智能
机器学习
摘要
预训练深度学习模型的范式近来在人工智能实践中出现，使得在算力资源有限的大量社会场景中得以部署，但同时也嵌入了偏见并助长了非预期的负面用途。在本文中，我们将预训练模型作为研究对象，并讨论其社会学地位所带来的伦理影响。我们讨论了预训练模型如何在共同任务框架下被开发与比较，但这可能使自我监管不足。进一步讨论了预训练模型可能对社会产生加剧偏见的述行效应。我们随后讨论了预训练模型如何作为计算上不可变的流动体在行动者网络中移动，但用户也通过微调与迁移重新诠释它们，从而充当技术变迁的代理人。我们进一步讨论了用户如何以恶意方式使用预训练模型，在负责任创新与以用户为中心的创新文献之间建立了新颖的联系。最后我们讨论了这种对预训练模型的社会学理解如何为公平性、问责制与透明性的 AI 治理框架提供信息。
引用
@article{arxiv.1909.03290,
title = {Pretrained AI Models: Performativity, Mobility, and Change},
author = {Lav R. Varshney and Nitish Shirish Keskar and Richard Socher},
journal= {arXiv preprint arXiv:1909.03290},
year = {2019}
}