“惊人地可怖：”探索用户对社交媒体应用中机器学习模型解密的感知与反应

部署在社交媒体应用中的机器学习模型用于人脸滤镜等功能，这些功能会读取现场人脸，暴露敏感属性给应用程序。然而，机器学习模型在社交媒体应用中的部署（例如何时、何地、如何使用）对用户而言是不可见的。我们旨在解决这一不一致性，探讨社交媒体用户的感知和行为一旦暴露于这些模型后会如何变化。我们进行了用户研究（N=21），发现参与者对Instagram和TikTok两种主要社交媒体平台中模型的输出以及何时使用这些模型并不了解。在被暴露于模型功能后，我们观察到8名参与者的长期行为发生了变化。我们的分析揭示了为与本地用户数据交互的机器学习模型提供透明度的挑战和机遇。