询问 ChatGPT：AI 聊天机器人个人用户的注意事项与缓解措施
计算机与社会
2025-08-15 v1
摘要
随着 ChatGPT 和其他基于大语言模型（LLM）的 AI 聊天机器人日益融入个人日常生活，重要的研究问题随之而来。这些系统给个人用户带来了哪些担忧和风险？它们可能造成哪些潜在危害，以及如何缓解这些危害？在这项工作中，我们回顾了近期文献和报告，并对这些问题进行了全面调查。我们首先解释了基于 LLM 的 AI 聊天机器人的工作原理，为读者理解聊天机器人的固有局限性提供了必要背景。随后，我们识别了与个人使用这些聊天机器人相关的一系列风险，包括幻觉、内在偏见、奉承行为、过度依赖导致的认知能力下降、社交孤立以及隐私泄露。最后，我们提出了几项关键的缓解策略以应对这些担忧。我们的目标是提高人们对使用 AI 聊天机器人潜在负面影响的认识，并赋能用户增强而非削弱人类智能，丰富而非损害日常生活。
引用
@article{arxiv.2508.10272,
title = {Ask ChatGPT: Caveats and Mitigations for Individual Users of AI Chatbots},
author = {Chengen Wang and Murat Kantarcioglu},
journal= {arXiv preprint arXiv:2508.10272},
year = {2025}
}