作为糟糕社会行动者的计算机：具有社会行为的界面中的黑暗模式与反模式

技术日益模仿类人的社会行为。除了聊天机器人等典型的对话智能体，这也适用于基本自动化系统，如应用通知或自助结账机，它们在日常情境中称呼或“对用户说话”。尽管早期证据表明社会线索可能提升用户体验，我们仍缺乏对其使用在何时以及为何可能不适当的充分理解。基于一项针对英语智能手机用户的调查（n=80），我们开展了经验取样、访谈和工作坊研究（n=11），以引出人们关于自动化系统如何与之交谈的态度与偏好。我们对参与者不喜欢的措辞/行为示例、他们给出的原因以及他们偏好的替代方式进行了主题分析。我们识别出的不当行为一类涉及将社会线索用作操纵工具。我们描述了界面使用的四种不受欢迎的策略：智能体利用用户情绪（例如，使之内疚或哄骗）、咄咄逼人、“母爱式”对待用户或被动攻击。另一类涉及语用学：个人或情境因素可能使看似友好或有帮助的话语显得粗鲁、不得体或具侵入性。这包括未能考虑相关上下文细节（例如，在公共场合使用户尴尬）；表达明显虚假的个性化关怀；或以用户认为不适合系统角色或关系性质的方式对待用户。我们依据新兴的“社会”类黑暗与反模式来讨论这些行为。借鉴参与者的建议，我们就改进界面在交互中对待用户的方式提出建议，包括对尊重用户这一议题的更广泛规范性反思。