CSPI-MT：基于多重检验的校准安全策略改进方法
机器学习
2024-08-23 v1 统计方法学
机器学习
摘要
在修改高风险场景中的现有策略时，通常需要以高度确定的置信度确保新提出的策略优于基准（如现状）。本文考虑安全策略改进的问题，即仅在新策略被判定优于指定基准且至少以预先指定概率为准时才采纳。我们聚焦于阈值策略，这是一类在经济学、医疗和数字广告等领域广泛应用的策略。现有方法依赖可能缺乏统计效力的安全性检查，限制了发现安全改进的机会，因此往往不得不回退到基准以维持安全性。我们通过利用渐近情境下最强大的安全性检验，并允许多个候选策略对基准进行改进检验来克服这些问题。我们证明，在对抗性环境下，即使在中等样本量下，我们的方法也能将采纳劣于基准的策略的错误率控制在预先指定的水平。我们提出了 CSPI 和 CSPI-MT 两种新颖的 heuristics 用于选择截止点，以最大化相对于基准的策略改进。我们通过合成数据和外部数据集展示，我们的做法在检测安全策略的成功率以及实现的改进方面都有所提升，尤其是在安全要求严格且信噪比较低的情况下。
引用
@article{arxiv.2408.12004,
title = {CSPI-MT: Calibrated Safe Policy Improvement with Multiple Testing for Threshold Policies},
author = {Brian M Cho and Ana-Roxana Pop and Kyra Gan and Sam Corbett-Davies and Israel Nir and Ariel Evnine and Nathan Kallus},
journal= {arXiv preprint arXiv:2408.12004},
year = {2024}
}