交互式反事实探索算法偏见在推荐系统中的影响
信息检索
2024-09-12 v1 人工智能
人机交互
摘要
推荐系统已成为数字体验中不可或缺的组成部分，塑造了用户在 various 平台上的互动和偏好。尽管其广泛应用，这些系统常常存在算法偏见，可能导致不公平且令人不满意的用户体验。本研究引入了一个交互式工具，旨在帮助用户理解和探索推荐系统中算法偏见的影响。通过利用可视化、反事实解释和交互模块，该工具允许用户检验偏见（如校准误差、刻板印象和滤镜气泡）如何影响其推荐。基于深入的用户访谈，该工具对普通用户和研究人员都有所帮助，通过增加透明度并提供个性化的影响评估，最终促进对算法偏见的更好理解，从而促进更公平的推荐结果。该工作为未来的研究和实际应用提供了宝贵的见解，旨在缓解偏见并增强机器学习算法的公平性。
引用
@article{arxiv.2409.06916,
title = {Interactive Counterfactual Exploration of Algorithmic Harms in Recommender Systems},
author = {Yongsu Ahn and Quinn K Wolter and Jonilyn Dick and Janet Dick and Yu-Ru Lin},
journal= {arXiv preprint arXiv:2409.06916},
year = {2024}
}