前沿AI伦理：预见与评估语言模型代理的社会影响
计算机与社会
2024-10-21 v2 人工智能
摘要
一些人批评生成式AI系统复制了已经广泛部署的AI系统的常见病理。另一些批评者则强调它们预示着未来更强大的系统，可能威胁人类的生存。第一组人说这里没有什么新东西；另一组人则透过现在看向也许遥远的地平线。在本文中，我转而关注这些特定系统的独特之处：它们卓越的科学成就，以及它们在未来五到十年内最可能且最具影响力地改变社会的方式。特别是，我探讨了即将出现的“语言模型代理”的潜在社会影响和规范性问题，其中多模态大语言模型（LLM）构成了复杂的、使用工具的AI系统的执行中心，这些系统可以朝着某个目标采取无监督的序列行动。
引用
@article{arxiv.2404.06750,
title = {Frontier AI Ethics: Anticipating and Evaluating the Societal Impacts of Language Model Agents},
author = {Seth Lazar},
journal= {arXiv preprint arXiv:2404.06750},
year = {2024}
}