论可信自治系统的规范制定
人工智能
2023-12-27 v2 机器人学
摘要
随着自治系统（AS）日益融入我们的日常生活，确保其可信性至关重要。为证明一个 AS 的可信性，我们首先需要规范一个 AS 被视为可信所应满足的要求。本路线图论文指出了在 AS 可信性规范制定方面的关键挑战，这些挑战是在英国研究与创新署（UKRI）可信自治系统（TAS）计划下举办的“可信性规范制定”研讨会上确定的。我们考察了一系列 AS 领域，考量了 AS 的弹性、信任、功能性、可验证性、安全性以及治理与监管，并指出了这些领域中的一些关键规范挑战。随后，我们强调了跨领域且在 AS 所需运行环境固有不确定性的加剧下变得更为严峻的、与 AS 可信性规范制定相关的智力挑战。
引用
@article{arxiv.2206.11421,
title = {On Specifying for Trustworthiness},
author = {Dhaminda B. Abeywickrama and Amel Bennaceur and Greg Chance and Yiannis Demiris and Anastasia Kordoni and Mark Levine and Luke Moffat and Luc Moreau and Mohammad Reza Mousavi and Bashar Nuseibeh and Subramanian Ramamoorthy and Jan Oliver Ringert and James Wilson and Shane Windsor and Kerstin Eder},
journal= {arXiv preprint arXiv:2206.11421},
year = {2023}
}
备注
Accepted version of paper. 13 pages, 1 table, 1 figure