中文

算法成瘾设计:大型科技公司利用黑暗模式维持市场主导地位及其内容管控的挑战

计算机与社会 2026-05-14 v3

摘要

今天最大的技术公司,尤其是拥有面向消费者的产品(如社交媒体平台)的公司,使用各种不道德且常常是非法的手段来维持其主导地位。一种日益引人注意的手段是成瘾设计的概念,这一概念的出现证明了过度社交媒体使用的事实已成为一个突出问题,尤其是在青少年和年轻成年人的心理和社会发展方面。随着科技公司开发越来越复杂的人工智能模型来驱动其算法推荐系统,他们将更成功地实现其目标,即确保对其平台的成瘾。本文探讨了在线平台如何有意识地培育具有成瘾性的用户行为,以及这些行为所带来的广泛社会影响,包括对儿童和青少年健康和福祉的影响。它将使用成瘾设计——包括黑暗模式、说服性设计元素和推荐算法的使用——作为技术公司维持其主导地位的工具。最后,它描述了内容管控应对这一问题的挑战,并概述了应对成瘾设计的政策层面解决方案。

关键词

引用

@article{arxiv.2505.00054,
  title  = {Algorithmic Addiction by Design: Big Tech's Leverage of Dark Patterns to Maintain Market Dominance and its Challenge for Content Moderation},
  author = {Michelle Nie},
  journal= {arXiv preprint arXiv:2505.00054},
  year   = {2026}
}

备注

Submitted to Computational Approaches to Content Moderation and Platform Governance (COMPASS) at ICWSM'25