前沿AI开发者需要内部审计职能

本文论证前沿人工智能（AI）开发者需要内部审计职能。首先，它描述了内部审计在公司治理中的作用：内部审计评估公司风险管理、控制和治理流程的充分性与有效性。它在组织上独立于高级管理层，并直接向董事会（通常是其审计委员会）报告。在IIA的三线模型（Three Lines Model）中，内部审计作为第三线，负责向董事会提供保证，而综合保证框架（Combined Assurance Framework）强调协调内部和外部保证提供者活动的必要性。接下来，文章概述了前沿AI开发中的关键治理挑战：危险能力可能不可预测且未被察觉地出现；难以阻止已部署模型造成危害；前沿模型可快速扩散；评估前沿AI风险 inherently 困难；以及前沿AI开发者似乎未遵循风险治理的最佳实践。最后，文章讨论了内部审计职能如何应对其中部分挑战：内部审计可识别无效的风险管理实践；可确保董事会更准确地理解当前风险水平及开发者风险管理实践的充分性；并可充当举报人的联系点。鉴于AI研究与开发的快速进展，前沿AI开发者需要加强其风险治理。与其重新发明轮子，不如遵循现有最佳实践。虽然这可能不够，但他们不应跳过这一显而易见的第一步。