中文

面向非歧视的软件测试:意大利汽车保险领域的更新与扩展审计

软件工程 2025-02-11 v1 人工智能 人机交互 机器学习

摘要

背景。随着软件系统越来越多地融入社会基础设施,软件专业人员确保满足各种非功能需求的责任日益增加。这些需求包括安全、可靠性、隐私,以及日益增长的非歧视。动机。在定价算法中实现公平性,能在不基于受保护属性歧视的情况下,为人们提供公平获取基本服务的机会。方法。我们复制了之前的实证研究,该研究通过黑盒测试审计意大利汽车保险公司使用的定价算法,这些算法通过一个流行的在线系统访问。相对于之前的研究,我们扩大了测试数量和人口统计变量的数量。结果。我们的工作确认并扩展了先前的发现,突出显示了跨时间范围内歧视问题的持久存在:人口统计变量对定价具有显著影响,至今仍以出生地为主要歧视因素,对出生在意大利城市之外的个体进行歧视。我们还发现,驾驶员轮廓可以决定用户可获得的报价数量,剥夺了所有人平等机会。结论。该研究凸显了在影响人们日常生活的软件系统中进行非歧视测试的重要性。通过时间进行算法审计可以评估此类算法的演变。它还展示了实证软件工程在使软件系统更具可解释性方面的作用。

关键词

引用

@article{arxiv.2502.06439,
  title  = {Testing software for non-discrimination: an updated and extended audit in the Italian car insurance domain},
  author = {Marco Rondina and Antonio Vetrò and Riccardo Coppola and Oumaima Regragrui and Alessandro Fabris and Gianmaria Silvello and Gian Antonio Susto and Juan Carlos De Martin},
  journal= {arXiv preprint arXiv:2502.06439},
  year   = {2025}
}

备注

14 pages, 1 figure