恰当性即你所需要的一切！
人工智能
2023-05-01 v1 计算与语言
人机交互
摘要
使AI应用“安全”的努力已导致安全举措作为其可允许使用的主要甚至唯一规范性要求的开发。最新版本的聊天机器人（如chatGPT）也可证实类似情况。在这种观点下，若它们是“安全”的，便被认为可部署。这种方法——我们称之为“安全规范性”——在解决chatGPT及其他聊天机器人迄今引发的涌现问题方面相当有限。为回应这一局限，本文主张依据恰当性这一规范性概念，限制聊天机器人可聊话题的范围。我们认为，与其在聊天机器人的话语中寻找“安全”以决定其可说与不可说的内容，我们应根据三种恰当性形式评估这些话语：技术-话语的、社会的与道德的。继而我们阐明，为避免先前论述的局限，这些恰当性形式对聊天机器人提出了哪些要求：立场性、可接受性与价值对齐（PAVA）。牢记这些，我们或能判定聊天机器人可说与不可说的内容。最后，一个初步建议是使用专门设计的针对恰当性的挑战集作为一种验证方法。
引用
@article{arxiv.2304.14553,
title = {Appropriateness is all you need!},
author = {Hendrik Kempt and Alon Lavie and Saskia K. Nagel},
journal= {arXiv preprint arXiv:2304.14553},
year = {2023}
}