如果埃莉诺·里格比遇见了ChatGPT：后LLM世界中的孤独感研究

警告：本文讨论的内容涉及暴力、性和自杀，但不限于此。孤独感，或缺乏满足感的人际关系，显著影响个人的身心健康，并在全球普遍存在。先前的研究表明，大型语言模型（LLMs）可能有助于缓解孤独感。然而，我们认为，LLMs在ChatGPT等服务中的广泛使用更为普遍，且风险更大，因为这些模型并非为此目的而设计。为探讨这一问题，我们分析了用户与ChatGPT在其营销用途（即任务导向助手）之外的互动。在被归类为孤独的对话中，用户有37%的时间寻求建议或认可，并获得了良好的回应。然而，ChatGPT在敏感场景中表现不佳，例如对自杀意念或创伤的适当回应。我们还观察到有毒内容的出现率高出35%，其中女性成为目标的可能性是男性的22倍。我们的研究结果凸显了该技术的伦理和法律问题，并指出了激进化或孤立等风险。最后，我们向研究界和工业界提出了应对孤独感的建议。