跨学科 AI 观测站——回顾性分析与面向未来的对立辨析
计算机与社会
2020-12-08 v2 人工智能
摘要
近年来，鉴于可能掩盖 AI 广泛有益影响的异质性安全关键与伦理问题，AI 安全在国际上获得认可。在此背景下，AI 观测站工作的实施代表了一个关键研究方向。本文论证了对一种内在跨学科 AI 观测站方法的需求，该方法整合多样的回顾性与反事实视角。我们界定目标与局限，同时利用具体实践案例提供实操建议。区分具有不同社会-心理-技术影响的无意与有意触发的 AI 风险，我们示例了回顾性描述分析，随后是回顾性反事实风险分析。基于这些 AI 观测站工具，我们提出近期的跨学科 AI 安全指南。作为进一步贡献，我们通过两个截然不同的现代 AI 安全范式视角讨论差异化与定制化的长期方向。为简洁起见，我们分别以 artificial stupidity (AS，人工愚笨) 和 eternal creativity (EC，永恒创造力) 指代这两种范式。尽管 AS 与 EC 都承认需要一种混合认知-情感取向的 AI 安全方法，并在许多短期考量上重叠，但它们在多个设想的长期解决方案模式的性质上根本不同。通过汇编相关的潜在对立辨析，我们旨在为实践与理论 AI 安全研究中的建设性辩证提供面向未来的激励。
引用
@article{arxiv.2012.02592,
title = {Transdisciplinary AI Observatory -- Retrospective Analyses and Future-Oriented Contradistinctions},
author = {Nadisha-Marie Aliman and Leon Kester and Roman Yampolskiy},
journal= {arXiv preprint arXiv:2012.02592},
year = {2020}
}