数据分布迁移下自主系统的评估

我们认为，数据在数据分布迁移达到一定阈值后才是安全的，超过此阈值后，自主系统必须放弃控制，或停止运行/交由人类操作员。本文采用计算机视觉示例演示了数据分布迁移对网络预测准确性的影响，并提出训练数据与测试数据之间的距离度量，以定义迁移范围内的安全操作限制。我们得出结论，超过经验获得的数据分布迁移阈值后，难以期待网络预测准确性不会退化。