谨慎跟帖:主动帮助用户评估并缓和其在线讨论中的紧张态势

不文明行为仍是在线讨论平台的一大挑战,以至于即便是善意用户之间的对话也常会偏离轨道陷入不文明行为。传统上,平台依赖版主——无论有无算法辅助——采取纠正措施,如删除评论或封禁用户。在本文中,我们提出一种互补范式,通过主动增强用户对其所参与对话中已有紧张态势的觉察,并在其起草回复时主动引导以避免进一步升级,从而直接赋能用户。作为该范式概念验证,我们设计了一种直接向用户提供此类主动信息的算法工具,并在一个热门讨论平台开展用户研究。通过结合调查与随机对照实验的混合方法,我们揭示了参与者如何利用和反应于该信息的定性与定量洞见。大多数参与者表示发现这一主动范式有价值,指出它帮助他们识别原本可能错过的紧张态势,并促使他们进一步反思并修改自己的回复。当我们的工具警告参与者其对话有偏离为不文明行为的风险、与工具禁用的对照条件相比,对参与者起草回复方式的比较印证了这些效应。这些初步发现凸显了这一以用户为中心范式的潜力,并指明了未来实现的具体方向。