当个性化有害时：重新思考分组属性在预测中的使用

机器学习模型常利用受保护、敏感、自报告或获取成本高的类别属性进行个性化。在这项工作中，我们表明使用分组属性个性化的模型会在群体层面上降低性能。我们提出形式化条件，通过训练一个额外模型来确保预测任务中分组属性的“公平使用”——即集体偏好保证，以确保每个提供个人数据的群体都将获得相应的定制化性能提升作为回报。我们给出在经验风险最小化中确保公平使用的充分条件，并刻画因模型开发与部署中的标准做法而导致公平使用违例的失败模式。我们呈现了临床预测任务中公平使用的综合实证研究。我们的结果展示了实践中公平使用违例的普遍性，并说明了缓解其危害的简单干预措施。