从成对特征比较中学习追索成本
机器学习
2024-09-24 v1 人工智能
计算机与社会
机器学习
摘要
本文提出了一种在学习与推断用户偏好时融入用户输入的新技术。在尝试为黑盒机器学习模型用户提供可操作追索时，我们通常希望融入他们关于修改每个单独特征难易程度的个人偏好。这些追索寻找算法通常需要一组详尽的元组，将每个特征与其修改成本相关联。由于很难通过直接调查人类来获得这些成本，在本文中，我们提出使用 Bradley-Terry 模型，通过非穷尽的人类比较调查来自动推断特征级别的成本。我们建议用户只需提供比较整个追索方案的输入，包含所有候选特征修改，确定哪些追索方案相对更易实施，而无需显式量化其成本。我们展示了使用 MAP 估计对单个特征成本的高效学习，并表明这些不一定包含每对特征比较数据的非穷尽人类调查，足以学习到一组详尽的特征成本，其中每个特征都关联一个修改成本。
引用
@article{arxiv.2409.13940,
title = {Learning Recourse Costs from Pairwise Feature Comparisons},
author = {Kaivalya Rawal and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2409.13940},
year = {2024}
}
备注
"Recourse for Humans", paper 49 from the Participatory Approaches to Machine Learning workshop at the International Conference on Machine Learning (ICML) 2020. For workshop website, see https://participatoryml.github.io/#49