作为监管算子的 metanetwork：学习以满足要求进行编辑

随着机器学习模型在高风险场景中部署的增多，例如作为 various societal sectors 或关键基础设施中的决策支持系统，设计师和审计人员正面临需要确保模型满足更广泛各种要求（例如遵守法规、公平性、计算约束）而不仅仅是性能的挑战。尽管其中大多数正在进行中的研究，但典型方法面临关键挑战：后处理方法倾向于牺牲性能，这常被通过微调或更糟的从头训练来抵消，后者常常是耗时或根本不可用的策略。这引出了这样的问题："我们能否在不牺牲实用性的前提下高效编辑模型以满足要求？"本文以一种统一的、数据驱动的方法来回答这一问题，即我们学习编辑神经网络 (NN)，其中编辑器本身就是一个 NN - graph metanetwork - 编辑 amounts to 一个推断步骤。具体而言，metanetwork 在 NN 群体上进行训练，以最小化由两个组成部分构成的目标：要强制执行的要求和保持 NN 实用性。我们针对各种任务进行实验（数据最小化原则、偏见缓解和权重剪枝），在性能、要求满足度和时间效率方面均优于流行的后处理或再训练方法。