人类监督有效性探索：跨学科视角

人类监督目前被讨论为抵消高风险人工智能应用某些负面影响的潜在保障。这促使对人类监督角色与条件进行批判性检讨。本文通过综合心理、法律、哲学和技术领域的见解来探讨有效的人类监督。基于人类监督主要目标是风险缓解的论点，我们提出了人类监督有效性的可行理解：人类监督要有效，监督者需具备（a）对系统及其影响的充分因果权力，（b）对相关情境方面的适当认识获取，（c）自我控制，以及（d）符合其角色的恰当意图。此外，我们认为这等同于说，监督者在道德上负责且具有恰当意图时才是有效的。在此背景下，我们提出了在追求实际应用性时，人类监督有效性的促进因素与抑制因素。我们讨论了三个领域中的因素，即系统的技术设计、监督者的个人因素以及他们所处的环境 circumstances。最后，本文细致分析了欧盟即将推出的 AI 法案——特别是关于人类监督的第 14 条——作为实际监管框架，以检视我们对有效人类监督理解的可行性。通过分析欧盟 AI 法案提案的规定与影响，我们指出该提案与我们关于人类监督有效性分析的一致程度，以及其可能通过我们的概念化理解来丰富的方面。