测试时间集体行动：基于代理的扰动用于纠正算法性伤害
机器学习
2026-05-28 v1 密码学与安全
摘要
当机器学习系统对特定子群表现不佳时，受影响的用户通常没有办法在不依赖平台级修复的情况下纠正这些差异。现有的算法公平方法依赖于以提供者为中心的纠正措施，留下了用户在遭遇伤害时没有外部杠杆的局面。最近的工作在算法集体行动方面表明，协调用户可以引导算法系统朝向集体目标发展，但现有机制需要提供者在集体修改后的数据上重新训练，这些数据用户可能无法控制。我们提出了测试时间集体行动(Test-Time Collective Action, TTCA)，这是一种框架，允许共享查询访问权限的群体用户在不参与平台训练循环的情况下纠正影响受限子群的差异。我们通过代理机制实现：集体成员汇聚查询访问权限，从而从黑盒 API 中提取平台的代理，然后针对每个类别优化通用扰动。每位成员在提交时将其输入应用此扰动，无需来自平台的合作。我们在 CIFAR-10、CIFAR-100 和 FairFace 上进行经验性评估，结果表明，适度规模的集体成员可弥补大部分子群准确率差距，跨架构迁移（小型代理可攻击更大的平台），并提高最差群体准确率、平等机会差距和不平等影响。查询预算分析将每个用户的黑盒攻击基线与集体成员单独攻击进行比较，表明汇聚成本低于每个子群成员单独攻击。测试时间集体行动为用户在平台端 Remediation unavailable 或延迟时提供了纠正干预。
引用
@article{arxiv.2605.27689,
title = {Test-Time Collective Action: Proxy-Based Perturbations for Correcting Algorithmic Harms},
author = {Meghana Bhange and Ulrich Aïvodji and Elliot Creager},
journal= {arXiv preprint arXiv:2605.27689},
year = {2026}
}