关于“AI 锁定问题”的案例报告：现代 NLP 的社会关切
计算与语言
2022-09-27 v1 计算机与社会
摘要
现代 NLP 模型正成为比前代更优的对话智能体。循环神经网络（RNN）尤其是长短期记忆（LSTM）特性使智能体能更好地存储与运用有关语义内容的信息，这一趋势在 Transformer 模型出现后变得更为显著。OpenAI 的 GPT-3 等大型语言模型（LLM）已以能够构建并遵循叙事而闻名，这使系统可即时采用人格、调整人格并参与对话式故事。然而，对 GPT-3 的实际实验表明，这些现代 NLP 系统存在一个反复出现的问题，即它们会“卡在”叙事中，致使进一步对话、提示执行或指令变得徒劳。此处称之为“锁定问题”，并以实验案例报告为例示，继之以该问题伴随的实际与社会关切。
引用
@article{arxiv.2209.12687,
title = {A Case Report On The "A.I. Locked-In Problem": social concerns with modern NLP},
author = {Yoshija Walter},
journal= {arXiv preprint arXiv:2209.12687},
year = {2022}
}
备注
17 pages