AI决策完整可追溯性工作流程

越来越多的高风险决策由自动化系统辅助或执行，这些系统采用脆弱的人工智能技术。其中一些决策可能因侵犯用户福祉或基本人权而造成伤害。当前AI系统在决策过程文档化方面几乎不予关注，这阻碍了追踪决策所涉及因素的能力，从而妨碍了重建责任链的可能性。具体而言，可追溯性需要能够在确定AI决策因非故意或故意违反法律的原因时，作为法律依据。本文采取一种激进却实用的方法，通过强制记录决定训练或推理过程中涉及的每个组件。因此，我们提出了第一个支持生成防篡改、可验证且详尽AI决策痕迹的工作流程。在此过程中，我们将DBOM概念扩展为利用机密计算技术的有效运行工作流程。我们以开发一种用于区分有毒和可食蘑菇的应用程序为例，演示了该工作流程的内部工作原理，作为高风险决策支持的示例。