AI安全：通过量化视角看领域现状
计算机与社会
2020-07-10 v2 人工智能
摘要
过去十年人工智能性能取得重大提升，推动了广泛应用。此类大规模采用的非预期效应使AI安全概念进入公众视野。AI安全是一个相对新兴的研究领域，专注于构建对人类有益AI的技术。虽有AI安全领域的综述论文，但缺乏对其所开展研究的量化考察。量化方面提供了关于新兴趋势、知识缺口及未来研究潜在方向的数据驱动洞察。本文对文献进行文献计量分析，发现自2015年以来研究活动显著增加。此外，该领域过于新颖，多数技术问题尚开放，包括：可解释性及其长期效用，以及我们认定为最重要的长期研究课题的价值对齐。同样，关于AI具体政策的研究严重匮乏。由于我们预期AI将成为社会变革的主要驱动力之一，AI安全是我们须借以决定人类未来方向的领域。
引用
@article{arxiv.2002.05671,
title = {AI safety: state of the field through quantitative lens},
author = {Mislav Juric and Agneza Sandic and Mario Brcic},
journal= {arXiv preprint arXiv:2002.05671},
year = {2020}
}
备注
2020 43rd International Convention on Information and Communication Technology, Electronics and Microelectronics (MIPRO)